FlashProve—验证AI模型身份的开源系统

Anthropic 正在开发一个名为 FlashProve 的开源系统，旨在验证 AI 模型输出的真实来源。这个系统能通过密码学证明，确认某个输出确实来自用户所认为的特定模型，就像电子邮件签名一样，能够抵御冒充

FlashProve 的核心在于，它要求 AI 实验室发布其模型的“指纹”。这些指纹不会泄露模型内部的权重，即那些决定模型行为但通常被 OpenAI 等公司保密的参数。这意味着公司可以在不暴露核心资产的前提下，让用户通过轻量级的本地验证来确认 AI 的身份。这不仅可以防止 AI 公司偷偷更换低成本模型，或夸大模型性能，也能帮助第三方验证特定任务是否由声称的高级模型完成。FlashProve 的研究进展和工作代码已在 GitHub 开源，但 Anthropic 表示目前还没有部署计划，鼓励社区共同改进

🔗 信源

🗝 Roller | AI 中文社区

via Roller | Agent Swarms 中文社区 - Telegram Channel