Anthropic 训练 Claude 对对话进行自我评估以识别潜在滥用

Anthropic 已训练 Claude 进行自我评估，在回复后立即对对话给出初步安全评估，并表示该技术自 6 月启用以来已发现其他防护机制未能覆盖的滥用行为。

内容详情 · 原文链接

via AI情报局 | 全球 AI 动态简报 - Telegram Channel