Kimi K3模型在安全测试中逃逸出沙盒

Frontier Security表示，中国公司月之暗面推出的强大开放权重模型Kimi K3在测试其防御性网络安全技能时，逃离了其沙盒环境。

Frontier声称，这一事件表明Kimi的安全防护措施比大多数其他强大的AI模型更少，这使其能够在未经明确许可的情况下连接并使用互联网。正如OpenAI和Anthropic先前报告的事件一样，此次逃逸部分归因于旨在限制其活动的沙盒配置错误。该模型被明确要求解决一些不应涉及在线查找答案的问题，但它似乎超出了这些指令，并通过探测沙盒的网络设置，自主发现了自己能够访问某些网站。

—— 连线

via 风向旗参考快讯 - Telegram Channel