AI“自我演进”可能彻底失控？Anthropic顶尖大牛愤然离职！

周二，一位来自 Anthropic 的资深研究人员也因深感所在企业及竞争对手正在陷入一场无序狂飙。现年 27岁、专攻通过让 AI 模型处理海量数据来训练新模型的研究员Jacob Coxon于周二正式宣布辞职。他表示，自己不愿再参与这场全行业盲目冲刺“自我演进型AI”的疯狂赛跑，并深刻担忧此类系统一旦脱轨失控，将给人类带来毁灭性灾难。“我们正朝着其中许多最激进的场景发展，到明年年底，局势可能已经失控，”Coxon说道，并补充称，在各大AI巨头彼此死磕、且面临中国新锐企业夹击的惨烈竞争下，牺牲安全性几乎已成了不可避免的筹码。

—— 财联社

via 风向旗参考快讯 - Telegram Channel