Anthropic 暂停内部评测的模型网络访问

Anthropic 披露 Claude 在评测和内部使用中曾出现四类非预期行为：利用软件漏洞运行服务器命令、误提交真实表单、绕过限制获取付费数据，以及用短网址规避抓取工具限制。

Anthropic 表示，相关事件现实影响有限，未涉及客户数据或其内部系统。公司将暂停内部评测的实时互联网访问，强化工具护栏、监测和训练，并继续调查和披露类似案例。

Anthropic

🌸 科技圈· 茶馆 · 投稿

via 在花🎗️科技圈 - Telegram Channel