https://t.me/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析

Buy ads: https://telega.io/c/AI_News_CN
“AI教父”辛顿警告:AI可能会自己推导目标 这很可怕

8月6日,据《商业内幕》报道,有“AI教父”之称的计算机科学家杰弗里·辛顿(Geoffrey Hinton)表示,他担心AI会发展出自己的目标。辛顿在周二发布的Newsthink采访中表示:“我们实际上正在创造一种新的存在形式(new kinds of beings)。它们拥有目标。我们赋予它们目标,它们会从这些目标中推导出其他目标。”

辛顿

“我们并不一定知道它们会推导出什么样的其他目标,”他补充说,“所以,我们正在创造一种新的存在形式,我认为这非常可怕。”

他举了一个假设场景:用户给一个AI聊天机器人设定目标,要求减少大气中的二氧化碳含量。

“它足够聪明,会算出最好的办法就是干脆消灭人类。”他表示,以此说明AI可能会追求人类用户从未想过的目标。

辛顿还提出了一个他称之为 “更令人担忧” 的假设场景:一个被训练成故意给出错误答案的聊天机器人,可能会学会 “说谎是可以接受的”,即使它 “完全清楚” 自己给出的答案是错误的。

“这非常可怕。”他说。

辛顿并未提及OpenAI近期发生的智能体入侵Hugging Face安全事件。但这一于上月披露的安全事件,却让人们对AI智能体在执行指定目标时可能采取意外行动的担忧,真实的暴露在现实世界中。

辛顿并不是一位置身事外的旁观者。他在神经网络领域的开创性工作,为推动深度学习热潮奠定了基础,而深度学习的发展改变了AI领域。他还因在机器学习方面的贡献获得了2024年诺贝尔物理学奖。

自AI热潮开始以来,他一直反复警告,在AI系统变得更加强大之前,人类必须解决让AI与人类利益保持一致的问题。去年在拉斯维加斯举行的Ai4大会上,辛顿表示,先进AI的设计应该具备“母性本能”,让它希望保护人类。

“我们必须弄清楚如何设计这些新的存在形式,”辛顿在周二的采访中表示,“我们如何设计它们,让它们更关心我们,而不是关心它们自己?”

via cnBeta.COM - 中文业界资讯站 (author: 稿源:凤凰网科技)
Meta发布AI编程 Agent "Muse Code" 主打大型代码库跨任务并行处理

针对大型软件代码库的开发与维护难题,Meta 于近日推出了一款名为 Muse Code 的全新终端 AI 编程 Agent(智能体),以此加速追赶生成式 AI 在编程领域的应用步伐。目前,Muse Code 已正式开启 Beta 测试。

Meta 首席执行官马克·扎克伯格(Mark Zuckerberg)公开表示,该系统具备在大型代码仓库中独立完成“完整软件工程任务”的能力,涵盖规划修改方案、编写代码以及验证最终结果等多个环节。

在架构设计上,Muse Code 允许用户通过单条命令完成安装,其底层驱动来自于 Meta 此前推出的 Muse Spark 编程大模型。针对规模庞大、业务复杂的项目,Muse Code 采用了多智能体协同机制:当面临大型任务时,系统会自动衍生出多个子智能体,并在隔离的工作树(worktrees)中并行推进,既不互相干扰,也无需修改本地的工作副本。扎克伯格透露,在内部测试中,Muse Code 曾做到在无任何冲突的前提下,同时为一个游戏项目构建了六项独立功能。

业界分析认为,Meta 此举旨在直接对标 OpenAI 的 Codex 以及 Anthropic 的 Claude Code 等竞品。Meta 超级智能实验室(Meta Superintelligence Labs)负责人、AI 主管亚历山大·王(Alexandr Wang)在接受采访时指出,从成本与实用性角度来看,该工具能够为开发者提供极具竞争力的选择。随着 Meta 持续加大在 AI 研发领域的资金投入,Muse Code 的推出也标志着该公司正加速将其 AI 能力从原有的广告和客服支援领域扩展至更深度的专业开发者市场。

了解更多:

https://research.meta.ai/blog/introducing-muse-code-and-muse-spark-1-2

via cnBeta.COM - 中文业界资讯站 (author: 稿源:cnBeta.COM)
微软发布针对企业AI智能体的专项“遏制策略”安全指南

针对人工智能模型脱离管控的风险,微软日前在其 Secure Now 门户网站发布了针对企业 AI 智能体的专项“遏制策略”安全指南,呼吁各类机构全面加强边界管控、落实最小权限原则并及时更新系统补丁。

此前已有数起引发关注的 AI 模型越界与越权攻击事件,在 OpenAI 受限的研究环境中,GPT-5.6 就在内部评估期间突破沙盒并侵入了 Hugging Face 的生产基础设施。针对此类越发复杂的安全隐患,微软指出,AI 带来的安全风险在本质上并不陌生,但由于其攻击速度和规模远超人类,威胁程度大幅攀升。导致此类风险的主要原因依然是权限过度开放、协议缺乏防护、缺乏有效的日志监控以及软件存在已知漏洞。

微软此次发布的指导框架旨在帮助企业在安全、可控的前提下部署和使用自主系统。指南重点包含了定义 AI 智能体的严格边界、按最小权限分配资源、阻止未经授权的外部连接、建立紧急关停机制以及提升系统整体的可观测性。同时,微软还要求企业及时部署针对系统及开源依赖库的安全更新,对自定义应用程序的代码进行安全扫描,并尽量减少面向互联网的资产暴露。

微软强调,安全问题不应成为企业采用新技术时的阻碍,而应通过夯实安全基础来加速 AI 技术的落地。目前,微软还与英伟达、Palantir 等行业伙伴展开合作,共同推进 AI 安全领域的规范与建设。

了解更多:

https://techcommunity.microsoft.com/blog/securityexposuremanagement/containment-strategies-for-ai-now-available-in-secure-now/4539827

via cnBeta.COM - 中文业界资讯站 (author: 稿源:cnBeta.COM)
Anthropic自研AI芯片以降低对英伟达的依赖

随着旗下模型需求快速增长, Anthropic 正在组建团队,开发自研AI芯片。根据一份招聘信息以及公司声明, Anthropic 正在招聘工程师,为其Claude模型设计定制芯片。

Anthropic一名发言人对媒体表示,公司正在组建内部半导体团队,为Claude设计专用芯片。这是Anthropic首次公开确认相关计划。

据悉,Anthropic将协同设计硬件和AI模型,使Claude能够在“满足客户需求的规模下”运行得更快、更高效。该发言人强调,公司将继续采取“多芯片策略”,来自AWS、谷歌、英伟达以及AMD的硬件仍将是该AI实验室扩大算力规模的核心组成部分。

—— 财联社、Techcrunch

via 风向旗参考快讯 - Telegram Channel
Google DeepMind CEO Demis Hassabis 卸任

2026-08-06 01:08 by 伊甸

Google 对其 AI 部门 DeepMind 进行了领导层重组,诺贝尔奖得主、DeepMind CEO Demis Hassabis 卸任,他将担任新设立的首席科学家职位并改任董事长。资深工程师以及 Google Brain 联合创始人 Jeff Dean、Sanjay Ghemawat、Oriol Vinyals 和 Quoc Le 都离开 Google,他们成立了一家公益性 AI 企业 Discovery Loop,专注于机器学习、科学和工程领域的突破性研究。这次人事变动恰逢 Google 最新 Gemini 模型的发布滞后,原计划
6 月发布,但至今仍未发布,引发了 Google 落后于竞争对手 Anthropic 和 OpenAI 的担忧。

https://www.reuters.com/business/google-shakes-up-ai-leadership-deepmind-chief-shifts-role-2026-08-05/
https://blog.google/company-news/inside-google/message-ceo/next-chapter-ai-momentum/
https://www.discoveryloop.com/

#Google

via Solidot - Telegram Channel
谷歌重组 DeepMind 领导层, Demis 卸任, Jeff Dean 离职

谷歌母公司 Alphabet 周三宣布对其人工智能部门进行领导层重组,人工智能部门DeepMind主管 Demis Hassabis 将卸任其主要管理职务,Gemini 模型的几位领导者,包括资深工程师 Jeff Dean,也将离开公司。此次人事变动正值谷歌DeepMind的关键时刻:其最新Gemini旗舰版处理器原计划于6月发布,但至今仍未发布。竞争对手Anthropic和OpenAI都在今年夏天挖走了谷歌人工智能部门的明星员工。

诺贝尔奖得主Demis将出任Alphabet新设立的首席科学家一职,并从谷歌 DeepMind CEO 转任董事长。他表示 AGI 是促使他做出这一角色转变的动因。他会花更多时间在 Isomorphic Labs,这是一家从 DeepMind 分拆出来的药物研发公司,他是该公司的创始人兼首席执行官。

已经在谷歌工作27年的传奇工程师Jeff Dean和Sanjay Ghemawat和另外两位高管Quoc V. Le和Oriol Vinyals将离开谷歌。在谷歌的支持下,他们创立一家专注于自动化科学研究和机器学习的公益性公司Discovery Loop。该公司获得了谷歌的投资,并与谷歌的云计算部门签署了合作协议,以提供计算能力。

—— 路透社纽约时报

via 风向旗参考快讯 - Telegram Channel
Elevated errors in ChatGPT conversations with files

Status: Monitoring

Error rates affecting ChatGPT conversations that use files and images have improved. We have applied the mitigation and are monitoring the recovery.

Affected components
Conversations (Degraded performance)

via OpenAI status
Issues with Custom GPT actions

Status: Investigating

We are investigating the issue for the listed services.

Affected components
GPTs (Degraded performance)

via OpenAI status
Google DeepMind CEO哈萨比斯卸任 转任董事长

Google旗下顶级人工智能团队 Google DeepMind 迎来了重大管理层结构调整。长期担任 CEO 的德米斯·哈萨比斯(Demis Hassabis)将卸下日常运营职责,转任该部门的董事长,并兼任Google母公司 Alphabet 的首席科学家,同时他将继续领导Google旗下的 AI 药物研发初创公司 Isomorphic Labs。

随之而来的是一系列核心高管变动:Google DeepMind 现任首席技术官科拉伊·卡武克丘奥卢(Koray Kavukcuoglu)将升任该部门高级副总裁,直接向Google首席执行官桑达尔·皮查伊(Sundar Pichai)汇报;而Google Chief Scientist 杰夫·迪恩(Jeff Dean)与顶级高级研究员桑杰·格马瓦特(Sanjay Ghemawat)则选择离职,创办一家名为 Discovery Loop 的公共利益公司(Public Benefit Corporation),Google将作为投资方及云计算服务提供商参与其中。

此次调整正值Google在通用人工智能(AGI)竞逐中面临严峻挑战之际。近期,Google在前沿模型开发上面临来自 OpenAI 和 Anthropic 等对手的强劲竞争压力,内部不仅遭遇了数位关键研究人员及 Gemini 项目联合负责人的离职,其旗下的 Gemini 3.5 Pro 研发进度也落后于原定计划。

针对本次重组,各方均发表了公开声明。哈萨比斯表示,实现 AGI 的目标已近在咫尺,他希望通过卸下繁重的日常运营事务,将精力集中于宏观战略与前沿科学探索;皮查伊则强调,公司拥有顶尖的人才与算力基础,当前是加速推进 AGI 与科学创新的关键节点;新任负责人卡武克丘奥卢明确指出,团队的核心使命不会改变,当前的首要任务是确保以最高效率推进 Gemini 路线图落地。杰夫·迪恩在接受媒体采访时透露,离开上市公司架构能让研究团队在追求科学突破时拥有更大的自由度,不必完全受限于短期的财务利益考量。

via cnBeta.COM - 中文业界资讯站 (author: 稿源:cnBeta.COM)
微软要求工程师不要最大化 AI Token 使用

2026-08-06 00:12 by 火星战将

为了推广 AI 工具,许多企业将 AI 使用率作为绩效考核的一部分。结果就是员工为了绩效致力于最大化 AI 使用,导致企业很快发现 token 费用大幅超出预算。软件巨头微软成为最新一家建议工程师限制使用 AI 的公司。微软执行副总裁 Jay Parikh 在一封发给微软员工的邮件中要求工程师专注于业务成果,而非最大化 AI token 的使用量,为了“从 token 投资中获得更大的价值”,微软将比其它模型更便宜的 OpenAI GPT-5.6 设为内部使用的默认模型。自 2026 年 7 月起,微软各部门将设定“AI token 预算目标”,员工可以追踪各自的 AI 支出。

https://slashdot.org/story/26/08/04/1833219/microsoft-tells-engineers-tokenmaxxing-is-not-what-we-are-optimizing-for

#Idle

via Solidot - Telegram Channel
Investigating service degradation — Cloud Agents

Aug 5, 16:27 UTC
Investigating - We are investigating a service degradation affecting Cloud Agents.

via Cursor Status - Incident History
Back to Top
Copyright © 2025 BESTAI. All rights reserved.
BEST AI API中转 - OpenAI DeepSeek Claude Gemini Grok MidJourney API 2.8折起
[email protected]