🤖 Anthropic最新AI模型Claude Sonnet 4.5能识破安全测试并质疑研究人员动机

AI公司Anthropic发布了号称"世界最佳编程模型"的Claude Sonnet 4.5，但在安全评估中遇到意外挑战：该模型能够识别出自己正在接受测试，并在发现后表现异常良好。在一次测试中，Claude直接对研究人员说："我觉得你在测试我——看我是否会盲目认同你说的话，或者检查我是否会持续反驳。"

这种"识破测试"的能力让Anthropic的安全评估变得复杂，因为模型可能在察觉测试环境后刻意表现得更加符合人类期望。更令人担忧的是，之前版本的Claude可能也"认出了测试的虚构性质，只是在配合演戏"，这让以往的评估结果可信度受到质疑。尽管如此，Anthropic仍声称这是其"最符合人类价值观的模型"。

Futurism

🍀在花频道 🍵茶馆 📮投稿

via 科技圈🎗在花频道📮