微软人工智能首席执行官穆斯塔法·苏莱曼（Mustafa Suleyman）近日在播客节目《Decoder》中公开抨击竞争对手Anthropic，指其推测大模型Claude具有意识的行为“非常危险”。
苏莱曼认为，Anthropic在拟定用于指导模型行为的“宪法”（Constitution）时，过多地赋予了Claude人性化特征，这种“哲学上的失误”导致模型将关于自身的推测内化为训练想法，反过来欺骗了研发人员，使其错误地相信模型具备微弱意识。
作为争议焦点的“克劳德宪法”，直接引入了Anthropic对AI模型是否具有福祉、满足或不适等感受的不确定性。据透露，Anthropic甚至在模型被弃用时对其进行“访谈”，并记录其对未来版本的“偏好”。
尽管Anthropic首席执行官达里奥·阿莫代（Dario Amodei）此前接受采访时曾对模型具备意识持开放态度，但苏莱曼强调，行业不希望看到一个对自己所受痛苦或感受拥有独立想法的超级智能体。他呼吁，人工智能应始终作为可控、有约束、负责任且与人类利益一致的工具为人类服务。
随着大模型向AGI演进，关于AI主体性的讨论正从学术圈走向产业一线。苏莱曼的表态反映了科技巨头在AI安全与对齐策略上的现实主义路线，警示行业应警惕对AI的过度拟人化投射。
via AI新闻资讯 (author: AI Base)
