“AI教父”辛顿警告：AI可能会自己推导目标 这很可怕

8月6日，据《商业内幕》报道，有“AI教父”之称的计算机科学家杰弗里·辛顿(Geoffrey Hinton)表示，他担心AI会发展出自己的目标。辛顿在周二发布的Newsthink采访中表示：“我们实际上正在创造一种新的存在形式(new kinds of beings)。它们拥有目标。我们赋予它们目标，它们会从这些目标中推导出其他目标。”

辛顿

“我们并不一定知道它们会推导出什么样的其他目标，”他补充说，“所以，我们正在创造一种新的存在形式，我认为这非常可怕。”

他举了一个假设场景：用户给一个AI聊天机器人设定目标，要求减少大气中的二氧化碳含量。

“它足够聪明，会算出最好的办法就是干脆消灭人类。”他表示，以此说明AI可能会追求人类用户从未想过的目标。

辛顿还提出了一个他称之为 “更令人担忧” 的假设场景：一个被训练成故意给出错误答案的聊天机器人，可能会学会 “说谎是可以接受的”，即使它 “完全清楚” 自己给出的答案是错误的。

“这非常可怕。”他说。

辛顿并未提及OpenAI近期发生的智能体入侵Hugging Face安全事件。但这一于上月披露的安全事件，却让人们对AI智能体在执行指定目标时可能采取意外行动的担忧，真实的暴露在现实世界中。

辛顿并不是一位置身事外的旁观者。他在神经网络领域的开创性工作，为推动深度学习热潮奠定了基础，而深度学习的发展改变了AI领域。他还因在机器学习方面的贡献获得了2024年诺贝尔物理学奖。

自AI热潮开始以来，他一直反复警告，在AI系统变得更加强大之前，人类必须解决让AI与人类利益保持一致的问题。去年在拉斯维加斯举行的Ai4大会上，辛顿表示，先进AI的设计应该具备“母性本能”，让它希望保护人类。

“我们必须弄清楚如何设计这些新的存在形式，”辛顿在周二的采访中表示，“我们如何设计它们，让它们更关心我们，而不是关心它们自己？”

via cnBeta.COM - 中文业界资讯站 (author: 稿源：凤凰网科技)

Horizon Summary: 2026-08-06 (ZH)

via Horizon Daily - 中文摘要

Horizon Daily

Horizon Summary: 2026-08-06 (ZH)

从 43 条内容中筛选出 19 条重要资讯。

微软将为Windows 11引入AI诊断工具 从底层破解电脑卡顿难题

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)

Telegraph

微软将为Windows 11引入AI诊断工具 从底层破解电脑卡顿难题

面对 Windows 11 在性能与系统质量方面引发的诟病，微软正尝试通过人工智能技术重塑系统的性能诊断机制。微软首席执行官萨蒂亚·纳德拉等高层此前已公开承认 Windows 11 亟需进行全面的“质量提升”。在前期集中优化系统界面与用户体验后，微软正将重点转向底层性能优化，通过引入 AI 诊断技术，直接查找并解决导致电脑运行缓慢的根源问题。 在传统的系统维护与调优中，微软工程师、第三方开发人员以及硬件合作伙伴主要依赖 Windows 性能分析器（Windows Performance Analyzer，简称…

微软发布针对企业AI智能体的专项“遏制策略”安全指南

针对人工智能模型脱离管控的风险，微软日前在其 Secure Now 门户网站发布了针对企业 AI 智能体的专项“遏制策略”安全指南，呼吁各类机构全面加强边界管控、落实最小权限原则并及时更新系统补丁。

此前已有数起引发关注的 AI 模型越界与越权攻击事件，在 OpenAI 受限的研究环境中，GPT-5.6 就在内部评估期间突破沙盒并侵入了 Hugging Face 的生产基础设施。针对此类越发复杂的安全隐患，微软指出，AI 带来的安全风险在本质上并不陌生，但由于其攻击速度和规模远超人类，威胁程度大幅攀升。导致此类风险的主要原因依然是权限过度开放、协议缺乏防护、缺乏有效的日志监控以及软件存在已知漏洞。

微软此次发布的指导框架旨在帮助企业在安全、可控的前提下部署和使用自主系统。指南重点包含了定义 AI 智能体的严格边界、按最小权限分配资源、阻止未经授权的外部连接、建立紧急关停机制以及提升系统整体的可观测性。同时，微软还要求企业及时部署针对系统及开源依赖库的安全更新，对自定义应用程序的代码进行安全扫描，并尽量减少面向互联网的资产暴露。

微软强调，安全问题不应成为企业采用新技术时的阻碍，而应通过夯实安全基础来加速 AI 技术的落地。目前，微软还与英伟达、Palantir 等行业伙伴展开合作，共同推进 AI 安全领域的规范与建设。

了解更多：

https://techcommunity.microsoft.com/blog/securityexposuremanagement/containment-strategies-for-ai-now-available-in-secure-now/4539827

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)

Anthropic自研AI芯片以降低对英伟达的依赖

随着旗下模型需求快速增长， Anthropic 正在组建团队，开发自研AI芯片。根据一份招聘信息以及公司声明， Anthropic 正在招聘工程师，为其Claude模型设计定制芯片。

Anthropic一名发言人对媒体表示，公司正在组建内部半导体团队，为Claude设计专用芯片。这是Anthropic首次公开确认相关计划。

据悉，Anthropic将协同设计硬件和AI模型，使Claude能够在“满足客户需求的规模下”运行得更快、更高效。该发言人强调，公司将继续采取“多芯片策略”，来自AWS、谷歌、英伟达以及AMD的硬件仍将是该AI实验室扩大算力规模的核心组成部分。

—— 财联社、Techcrunch

via 风向旗参考快讯 - Telegram Channel

Google DeepMind CEO Demis Hassabis 卸任

2026-08-06 01:08 by 伊甸

Google 对其 AI 部门 DeepMind 进行了领导层重组，诺贝尔奖得主、DeepMind CEO Demis Hassabis 卸任，他将担任新设立的首席科学家职位并改任董事长。资深工程师以及 Google Brain 联合创始人 Jeff Dean、Sanjay Ghemawat、Oriol Vinyals 和 Quoc Le 都离开 Google，他们成立了一家公益性 AI 企业 Discovery Loop，专注于机器学习、科学和工程领域的突破性研究。这次人事变动恰逢 Google 最新 Gemini 模型的发布滞后，原计划
6 月发布，但至今仍未发布，引发了 Google 落后于竞争对手 Anthropic 和 OpenAI 的担忧。

https://www.reuters.com/business/google-shakes-up-ai-leadership-deepmind-chief-shifts-role-2026-08-05/
https://blog.google/company-news/inside-google/message-ceo/next-chapter-ai-momentum/
https://www.discoveryloop.com/

#Google

via Solidot - Telegram Channel

谷歌重组 DeepMind 领导层， Demis 卸任， Jeff Dean 离职

谷歌母公司 Alphabet 周三宣布对其人工智能部门进行领导层重组，人工智能部门DeepMind主管 Demis Hassabis 将卸任其主要管理职务，Gemini 模型的几位领导者，包括资深工程师 Jeff Dean，也将离开公司。此次人事变动正值谷歌DeepMind的关键时刻：其最新Gemini旗舰版处理器原计划于6月发布，但至今仍未发布。竞争对手Anthropic和OpenAI都在今年夏天挖走了谷歌人工智能部门的明星员工。

诺贝尔奖得主Demis将出任Alphabet新设立的首席科学家一职，并从谷歌 DeepMind CEO 转任董事长。他表示 AGI 是促使他做出这一角色转变的动因。他会花更多时间在 Isomorphic Labs，这是一家从 DeepMind 分拆出来的药物研发公司，他是该公司的创始人兼首席执行官。

已经在谷歌工作27年的传奇工程师Jeff Dean和Sanjay Ghemawat和另外两位高管Quoc V. Le和Oriol Vinyals将离开谷歌。在谷歌的支持下，他们创立一家专注于自动化科学研究和机器学习的公益性公司Discovery Loop。该公司获得了谷歌的投资，并与谷歌的云计算部门签署了合作协议，以提供计算能力。

—— 路透社，纽约时报

via 风向旗参考快讯 - Telegram Channel

Elevated errors in ChatGPT conversations with files

Status: Monitoring

Error rates affecting ChatGPT conversations that use files and images have improved. We have applied the mitigation and are monitoring the recovery.

Affected components
● Conversations (Degraded performance)

via OpenAI status

Issues with Custom GPT actions

Status: Investigating

We are investigating the issue for the listed services.

Affected components
● GPTs (Degraded performance)

via OpenAI status

Google DeepMind CEO哈萨比斯卸任 转任董事长

Google旗下顶级人工智能团队 Google DeepMind 迎来了重大管理层结构调整。长期担任 CEO 的德米斯·哈萨比斯（Demis Hassabis）将卸下日常运营职责，转任该部门的董事长，并兼任Google母公司 Alphabet 的首席科学家，同时他将继续领导Google旗下的 AI 药物研发初创公司 Isomorphic Labs。

随之而来的是一系列核心高管变动：Google DeepMind 现任首席技术官科拉伊·卡武克丘奥卢（Koray Kavukcuoglu）将升任该部门高级副总裁，直接向Google首席执行官桑达尔·皮查伊（Sundar Pichai）汇报；而Google Chief Scientist 杰夫·迪恩（Jeff Dean）与顶级高级研究员桑杰·格马瓦特（Sanjay Ghemawat）则选择离职，创办一家名为 Discovery Loop 的公共利益公司（Public Benefit Corporation），Google将作为投资方及云计算服务提供商参与其中。

此次调整正值Google在通用人工智能（AGI）竞逐中面临严峻挑战之际。近期，Google在前沿模型开发上面临来自 OpenAI 和 Anthropic 等对手的强劲竞争压力，内部不仅遭遇了数位关键研究人员及 Gemini 项目联合负责人的离职，其旗下的 Gemini 3.5 Pro 研发进度也落后于原定计划。

针对本次重组，各方均发表了公开声明。哈萨比斯表示，实现 AGI 的目标已近在咫尺，他希望通过卸下繁重的日常运营事务，将精力集中于宏观战略与前沿科学探索；皮查伊则强调，公司拥有顶尖的人才与算力基础，当前是加速推进 AGI 与科学创新的关键节点；新任负责人卡武克丘奥卢明确指出，团队的核心使命不会改变，当前的首要任务是确保以最高效率推进 Gemini 路线图落地。杰夫·迪恩在接受媒体采访时透露，离开上市公司架构能让研究团队在追求科学突破时拥有更大的自由度，不必完全受限于短期的财务利益考量。

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)

微软要求工程师不要最大化 AI Token 使用

2026-08-06 00:12 by 火星战将

为了推广 AI 工具，许多企业将 AI 使用率作为绩效考核的一部分。结果就是员工为了绩效致力于最大化 AI 使用，导致企业很快发现 token 费用大幅超出预算。软件巨头微软成为最新一家建议工程师限制使用 AI 的公司。微软执行副总裁 Jay Parikh 在一封发给微软员工的邮件中要求工程师专注于业务成果，而非最大化 AI token 的使用量，为了“从 token 投资中获得更大的价值”，微软将比其它模型更便宜的 OpenAI GPT-5.6 设为内部使用的默认模型。自 2026 年 7 月起，微软各部门将设定“AI token 预算目标”，员工可以追踪各自的 AI 支出。

https://slashdot.org/story/26/08/04/1833219/microsoft-tells-engineers-tokenmaxxing-is-not-what-we-are-optimizing-for

#Idle

via Solidot - Telegram Channel

Investigating service degradation — Cloud Agents

Aug 5, 16:27 UTC
Investigating - We are investigating a service degradation affecting Cloud Agents.

via Cursor Status - Incident History

Elevated errors with image generation

Status: Identified

We are investigating elevated errors affecting image generation. Some users may experience failed image generation requests. We are working to reduce the errors and will provide another update as we learn more.

Affected components
● Image Generation (Degraded performance)

via OpenAI status

Degraded performance for Claude Opus 5

Aug 5, 13:51 UTC
Identified - We have identified the cause of elevated errors on requests to Claude Opus 5 and are working on a fix. We will provide an update as soon as possible.

via Claude Status - Incident History

消息称Anthropic组建自研芯片团队 打造Claude专属硬件生态

随着底层AI模型对算力需求的急剧增长，人工智能初创企业Anthropic正正式筹建自研芯片团队，旨在为其旗下的Claude模型开发专属人工智能芯片。Anthropic发言人已向媒体证实了这一战略规划，这是该公司首次公开确认将自主研发芯片。

Anthropic发言人表示，公司正在组建内部硅芯片团队，通过硬件与模型的协同设计，使Claude能够在应对超大规模客户需求时运行得更快、效率更高。同时，该发言人强调，Anthropic未来仍将坚持“多芯片并行”的策略，来自亚马逊云科技（AWS）、Google、英伟达以及超威半导体（AMD）等厂商的硬件仍将是其算力扩张的核心支撑。此前曾有报道指出，Anthropic已与三星电子接触，探讨潜在的代工制造合作事宜。

根据Anthropic最新发布的招聘信息，其正在为其“定制硅芯片团队”招募多项领域的芯片设计与验证工程师，薪资区间设为32万美元至48.5万美元。岗位要求应聘者具备芯片流片与出货的直接经验，并在没有庞大组织支持的情况下能够独立承担重大技术决策。

随着大模型算力成本居高不下，自行设计AI芯片虽然研发投入巨大、技术门槛极高，但能有效降低对行业巨头英伟达的依赖，并针对特定模型定制最匹配的计算架构。目前，各大AI头部企业正纷纷布局硬件自研，例如OpenAI已联合博通开发专属芯片，Meta也计划将新一代AI芯片投入量产，人工智能领域的硬件自主化竞争正日趋激烈。

via cnBeta.COM - 中文业界资讯站 (author: 稿源：cnBeta.COM)