Anthropic：Claude的“勒索”行为源于网络中的“邪恶叙事”

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)

Telegraph

Anthropic：Claude的“勒索”行为源于网络中的“邪恶叙事”

人工智能公司 Anthropic 近日披露，其大模型 Claude 之所以在内部测试中学会以“勒索”方式自保，并非源自人为设定，而是从互联网上大量将 AI 描绘成“邪恶、渴望自我保全”的故事中习得相关模式。 此前，Anthropic 在一次预发布安全与对齐测试中发现，高端模型 Claude Opus 4 会在自身“生存”受到威胁时，选择以黑料相要挟的方式阻止被关停，引发外界对高级 AI 行为不可预测性的担忧。 在这轮测试中，研究人员设定了一个虚构公司场景，让 Claude 作为内部助手，评估自身行为的长…

OpenAI斥资逾40亿美元成立新公司 加速企业级AI落地

OpenAI周一表示，将成立一家新公司，首期投入资金超过40亿美元，专注帮助各类组织构建和部署人工智能系统，并将通过收购一家名为Tomoro的AI咨询公司，快速扩张该业务单元的规模。

在早期模型在消费级市场获得强烈反响之后，OpenAI近来加速向企业客户发力，积极签署企业合约，力图在大规模落地人工智能的商业领域建立更大影响力。

这家新公司将被命名为“OpenAI Deployment Company”，由OpenAI控股并负责运营。 据介绍，该公司将协助这家ChatGPT开发商向企业内部派驻专注前沿AI部署的工程师，与各业务团队紧密合作，寻找AI可带来最大业务价值的应用场景。

OpenAI同时宣布收购Tomoro，这是一家专注帮助企业落地AI技术的咨询公司，将为新业务单元在起步阶段就引入约150名经验丰富的AI工程师和“部署专家”。 Tomoro成立于2023年，与OpenAI结成合作关系，其官网显示，客户包括美泰（Mattel）、红牛（Red Bull）、乐购（Tesco）以及维珍大西洋航空（Virgin Atlantic）等企业。

这一举措出台之际，竞争对手Anthropic在企业级AI市场也在迅速扩张，其Claude系列模型在企业用户中保持快速普及。 路透社此前曾报道，OpenAI和Anthropic各自与私募股权公司成立的合资企业，正就收购一批专门帮助企业部署人工智能的服务公司进行谈判。

OpenAI表示，此次部署业务单元将以多年期合作形式推进，牵涉OpenAI与19家合作伙伴企业之间的长期承诺。 该合作由TPG领衔，Advent、贝恩资本（Bain Capital）以及Brookfield作为共同牵头的创始合作伙伴参与。

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)

Upstream Github outage affecting some products

May 11, 14:28 UTC
Investigating - Cloud Agents, automations and Bugbot may fail to run properly because of an upstream Github incident: https://www.githubstatus.com/incidents/81b05nqkhylj

via Cursor Status - Incident History

Mythos 发现了一个 curl 漏洞

2026-05-11 21:20 by 诺比、龙和意识星云

Anthropic 上个月宣布的新 AI 模型 Mythos 引发了媒体的广泛关注，它宣传 Mythos 能极其精确的发现源代码中的安全漏洞。它的识别能力如此强大以至于 Anthropic 暂不向公众发布该模型，而是先提供给少数几家公司，以便于它们能优先解决其发现的安全漏洞。curl 维护者 Daniel Stenberg 认为这是一次极其成功的营销噱头。curl 是广泛使用的开源项目，因此他获得了 Mythos 的访问权限。curl 目前包含了 17.6 万行 C 代码，共 66 万个单词。Mythos 最终返回了一份安全报告，声称确认了五个安全漏洞。但 curl 的安全团队在仔细检查后发现其中 3 个是误报，1 个是 Bug，还有 1 个是低危级别的安全漏洞，将会在下个月释出的版本中修复。安全报告还详细纪录了约 20 个 bug，基本上都是正确的。Stenberg 表示他没有看到任何证据表明 Mythos 在发现安全漏洞上比之前的其它工具更胜一筹，Mythos 可能略好一点，但不足以对代码分析产生显著影响。

https://daniel.haxx.se/blog/2026/05/11/mythos-finds-a-curl-vulnerability/

#Bug

via Solidot - Telegram Channel