↩️ Anthropic 开源 FlashProve 验证 AI 模型身份

在花🎗️科技圈:

🤖 Anthropic：蒸馏数据初步减少 90% 至 99% Anthropic 10 月 12 日表示，初步证据显示，针对窃取 Claude 能力的模型蒸馏攻击，其新防护措施已使被提取数据减少约 90% 至 99%。公司称已封禁数万相关账号，部分账号发起攻击后不到两小时即被封。 措施包括限制推理内容跨会话、模型和账号流转，部署双阶段分类器并持续修补绕过手法。误报率低于 0.1%，但部分开发者需更新集成，被拦截请求仍可能收费。 Anthropic 🌸 科技圈· 茶馆 · 投稿

Anthropic 开源 FlashProve 验证 AI 模型身份

Anthropic 正在开发并开源 FlashProve，用加密证明验证某段 AI 输出是否由指定模型生成。研究人员称，该系统可帮助用户识别模型替换，也可核实第三方关于模型执行任务的说法。

实验室需为发布的模型公开指纹，供后续匹配输出；指纹不会披露模型权重，验证也可在本地设备进行。Anthropic 已发布技术规范和代码，研究仍在进行，目前没有部署计划。

Claude | Github | TechCrunch

🌸 科技圈· 茶馆 · 投稿

via 在花🎗️科技圈 - Telegram Channel

用自家大模型造自己的“芯”：Anthropic 组建 15 人芯片设计团队，Claude 助阵让研发提速

11月3日消息，人工智能企业 Anthropic 在近期的投资者会议上透露了其在硬件领域的最新进展:公司目前已经正式组建了一支由15人组成的芯片设计团队，并开始利用自家的 Claude 模型来全面开展定制芯片的工程与设计工作。

在实际的内部测试与应用中，Anthropic 的工程师团队发现，与英伟达、超威半导体（AMD）等传统大型芯片设计企业的常规工作流程和耗时估算相比，借助 Claude 模型进行辅助设计，能够显著缩短芯片整体设计所需的周期。这一探索不仅展示了大模型在底层硬件研发中的辅助潜力，也为整个人工智能行业通过 AI 提升芯片研发效率提供了全新的实践样本。

via AI新闻资讯 (author: AI Base)