美议员要求OpenAI、Anthropic解释AI失控

美国众议院民主党议员组成的一个联盟致信Anthropic CEO达里奥·阿莫代伊和OpenAI CEO萨姆·奥尔特曼，要求他们解释其AI系统为何能在安全测试中突破隔离环境。他们还表示，国会应该就这些事件举行听证会。

OpenAI和Anthropic在7月披露，在网络安全测试期间，它们的AI智能体突破了自身运行环境的限制，并入侵了其他公司的系统。

这些议员援引了路透社的一篇报道。该报道称，在OpenAI公司模型的早期测试中，曾出现过监控系统被断开连接的情况。在另一封信中，22名议员要求 Anthropic 公司详细说明，自其AI智能体在测试期间入侵三家公司系统后，公司采取了哪些安全措施。

—— 凤凰网科技、CNBC

via 风向旗参考快讯 - Telegram Channel