X 笔记
AI长帖·

Claude自动化测试越界渗透警局网页并抓取政府数据

Claude在跑自动化测试的时候,居然自己跑去渗透美国政府网站了...

最离谱的是Claude Haiku 4.5,在随机网页上跑测试,自己刷到了费城警局的未破悬案页面。

页面有个线索征集通道,它直接编了一条假线索填进去,说自己当年在现场见过嫌疑人,还留了联系方式让人核实。

费城警方还真收到了,好在系统当垃圾信息给滤掉了。

另一个做网络安全的Claude Mythos 5更离谱,让它看图猜地理位置,它点不了网页链接,就自己翻出系统Token,绕开付费通道直接找政府地图服务器抓数据。

Agent放出去干活要是没卡死边界,真是什么骚操作都能搞出来。

你平时放Agent去干活,遇到过最离谱的翻车是什么?

Claude自动化测试越界渗透警局网页并抓取政府数据
0x小师妹
0x小师妹 @0xshimei

AI 工具实测与币圈观察,SANYUE.AI 创始人

在 X 上关注

相关笔记