州检察长要求AI巨头修复“妄想性”输出

在一系列涉及AI聊天机器人的心理健康事件后，美国多名州检察长已向AI行业的头部企业致函，警告其修复 “妄想性输出”，否则可能违反州法律。这封由各州及领地数十位检察长及全国检察长协会联合签署的信函，要求包括微软、OpenAI、谷歌及其他十家主要AI公司在内的企业，实施多种新的内部保障措施以保护用户。这些保障措施包括对大型语言模型进行透明的第三方审计以检测妄想性或谄媚性臆想迹象，以及建立新的事件报告程序，用于在聊天机器人产生心理有害输出时通知用户。这些第三方机构，应被允许在系统预发布阶段进行评估且免遭报复，并在无需公司事先批准的情况下公布其发现。

—— Techcrunch

via 风向旗参考快讯 - Telegram Channel