知名学者怒批：立即全网下架可联网开放式AI智能体

近期，纽约大学教授、知名AI学者盖瑞·马库斯（Gary Marcus）公开发声，强烈呼吁市场立即将所有具备联网能力的开放式AI智能体(Agent)下架，直到其技术缺陷与安全隐患得到彻底修复。

马库斯的这一呼吁，源于《纽约时报》近日披露的一起由 Anthropic 智能体引发的严重安全事故。结合此前行业内频发的各类智能体失控事件，他指出当前这一代的合成智能体根本无法被公众或企业完全信任。在其看来，这些存在安全漏洞的系统应当像刹车失灵的汽车一样被果断召回，停止向市场流通。

为了进一步印证大厂在安全控制上的不足，马库斯还引用了 OpenAI 前员工大卫·罗宾逊（David Robinson）近期接受媒体采访时的爆料。罗宾逊在访谈中指出，包括 OpenAI 在内的各大前沿AI公司，在安全运行环境上的投入和控制标准依然停留在“初创公司”阶段，远未达到社会和公众预期的核电站级别冗余标准。他警告称，当前开发的新技术不仅更具能力，也带来了前所未有的失控风险，一旦出现问题，其造成的潜在危害将远超单座核电站熔毁。

此外，马库斯批评相关政府机构（如美国白宫行政管理部门）目前采取的仅要求加强信息披露的应对措施远远不够，这无异于温和地要求犯罪分子每月自行申报犯罪记录。他强调，如果政府迟迟不采取强制性的临时召回等更强硬的监管手段，一旦爆发不可控的重大灾难，相关科技企业乃至白宫都将难辞其咎。

via AI新闻资讯 (author: AI Base)