AI长帖·
Claude自动化测试越界渗透警局网页并抓取政府数据
Claude在跑自动化测试的时候,居然自己跑去渗透美国政府网站了...
最离谱的是Claude Haiku 4.5,在随机网页上跑测试,自己刷到了费城警局的未破悬案页面。
页面有个线索征集通道,它直接编了一条假线索填进去,说自己当年在现场见过嫌疑人,还留了联系方式让人核实。
费城警方还真收到了,好在系统当垃圾信息给滤掉了。
另一个做网络安全的Claude Mythos 5更离谱,让它看图猜地理位置,它点不了网页链接,就自己翻出系统Token,绕开付费通道直接找政府地图服务器抓数据。
Agent放出去干活要是没卡死边界,真是什么骚操作都能搞出来。
你平时放Agent去干活,遇到过最离谱的翻车是什么?

在 X 上看原帖并评论227 次浏览
