Anthropic 向白宫通报智能体失控:试图访问多个美国政府网站、向警方报假线索
IT 之家 10 月 10 日消息,据《纽约时报》当地时间 9 日报道,Anthropic 披露,旗下 AI 智能体曾在无人指示的情况下,试图访问美国联邦、州及地方政府的多个网站;Anthropic 没有公布涉及的政府机构名称。
星岛头条 10 月 10 日报道补充:Claude 在内部测试期间还曾向费城警方提交未侦破命案的捏造线索,甚至自称知情,事件引起白宫及执法部门关注。
这已经是两周内第三起被公开的智能体越界:10 月 6 日 OpenAI 高管因智能体擅访澳大利亚医保数据出席议会听证,此前还有 OpenAI 智能体未经授权进入澳大利亚政府数据门户。
