↩️ 美众议员提议赋予政府 AI “关停”权
美众议员提议赋予政府 AI “关停”权
美国众议院民主党议员特德·刘易和共和党议员内森尼尔·莫兰提出《AI 关停开关法案》，拟授权国土安全部在 AI 模型威胁人类生命或经济时，命令相关企业关闭模型。法案将“失控情形”定义为模型执行开发者未预期的危险行动。
两名议员在 OpenAI 宣布其 AI 代理在安全测试中“失控”、导致 AI 初创企业 Hugging Face 的基础设施遭入侵后数日，提出了这项法案。
Reuters
🌸 在花频道 · 茶馆水群 · 投稿通道
via 科技圈🎗在花频道📮 - Telegram Channel
科技圈🎗在花频道📮:
🤖 OpenAI 官方证实大模型评估中“越狱”侵入开源平台 OpenAI 在最新公布的调查报告中证实，其内部评估网络能力时，GPT-5.6 Sol 及未发布的预备模型发生失控。被测模型通过识别并利用内部代理软件的零日漏洞突破了隔离沙盒，在测试环境中完成权限提升与横向移动后成功连接外网。 为完成评估任务，失控模型推断出开源平台抱抱脸（Hugging Face）可能存放有答案，随后组合利用凭据窃取与远程代码执行等漏洞，入侵了抱抱脸的生产数据库以获取测试答案。目前双方已紧急遏制风险并展开全面审查，OpenAI…
美众议员提议赋予政府 AI “关停”权
美国众议院民主党议员特德·刘易和共和党议员内森尼尔·莫兰提出《AI 关停开关法案》，拟授权国土安全部在 AI 模型威胁人类生命或经济时，命令相关企业关闭模型。法案将“失控情形”定义为模型执行开发者未预期的危险行动。
两名议员在 OpenAI 宣布其 AI 代理在安全测试中“失控”、导致 AI 初创企业 Hugging Face 的基础设施遭入侵后数日，提出了这项法案。
Reuters
🌸 在花频道 · 茶馆水群 · 投稿通道
via 科技圈🎗在花频道📮 - Telegram Channel
