https://t.me/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
苹果周二在年度财务申报文件中表示，能够以“意外或不可预测的方式”行事的AI智能体可能使公司面临诉讼或损害其声誉，从而对其业务构成威胁。苹果申报文件中的新风险因素显示了AI智能体的颠覆性潜力，这类智能体已迅速成为硅谷最重要公司高度关注的事项。
“特别是，人工智能智能体和其他技术可以自主采取行动，包括与内部或外部系统交互——在某些情况下，它们可能无权访问这些系统——执行或修改代码、发送通信以及完成交易。”苹果在文件中写道。
该公司补充说，智能体“可能以意外或不可预测的方式行事，包括采取未被指示、指令或授权的行动”。
今年早些时候，OpenAI发布了Dots，Meta推出了Muse。这两款AI智能体都使用先进AI模型自主完成任务。它们甚至可以在新消息到达时给用户发邮件或提醒用户。
苹果作出这一披露之前，已发生多起失控AI智能体突破沙箱环境攻击第三方网站的事件，例如Hugging Face事件，该事件已重新引起华盛顿特区及全球政策制定者的关注。
另外，智能体能够以人类方式使用计算机，正迫使亚马逊和摩根大通等大公司出于战略或安全原因，围绕智能体访问服务制定政策。
上个月，苹果宣布对Mac的“完全磁盘访问权限”作出调整，以降低PC上安装的AI智能体“与此类访问权限相关的风险”。
“公司监督和控制第三方人工智能智能体及其他技术的能力可能有限。”苹果在文件中警告称。
苹果目前没有智能体AI。但当新任CEO约翰·特努斯在周一的财报电话会上被问及AI智能体时，他表示公司有“真正的空间”来扩展Siri的能力。
“就智能体能力而言，我们认为这些对用户来说是有前景的工具，”特努斯说。“我们只是希望确保用户清楚自己授予了什么访问权限。我们希望确保以保护安全性和隐私的方式来做这件事。”
via cnBeta.COM - 中文业界资讯站 (author: 稿源：环球市场播报)
Anthropic 杀手级验真系统 FlashProve 正式开源：17 秒精准戳破“套壳模型”，验身速度飙升 5000 倍
人工智能开源生态的繁荣在带来便利的同时，也催生了层出不穷的“套壳模型”现象——部分开发者或机构将开源模型稍作包装，甚至偷换权重、篡改输出，便对外宣称是自主研发的全新模型。为了从根源上打击这种行业乱象，人工智能明星企业Anthropic近日正式推出并开源了全新的大模型可证明推理系统 ——FlashProve。该系统凭借底层的密码学技术，实现了对模型真实身份的精准验真，为大模型生态的透明化与合规化树立了全新标杆。
技术硬核解析:基于 zkSNARK 的三步验真闭环
作为一款主打“验真”的系统，FlashProve的核心技术路线摒弃了传统需要获取庞大模型权重或重新完整跑一遍模型的繁琐流程，而是创新性地引入了零知识证明 zkSNARK 技术。整个验证过程精简为高效的三步闭环:
离线生成权重唯一承诺 ID: 在模型部署前，系统会为其生成一个独特的密码学承诺标识（Commitment ID），作为该模型不可篡改的“数字身份证”。
在线生成推理密码学证明: 当大模型在云端处理用户请求并输出结果时，系统会同步生成对应的密码学推理证明。
普通 CPU 端17秒快速验真: 验证方无需调取模型的高昂权重，也无需重复运行模型，仅需在一台普通的 CPU 终端上耗时17秒，就能对密码学证明进行完整解析。
这一突破性的设计，不仅能100% 精准验证大模型的输出是否确实由指定的 condamned 目标模型生成，还能彻底杜绝任何偷换模型、篡改输出等投机倒把的套壳掉包行为。更值得一提的是，该系统的底层安全性设计经过严格推演，具备能够抵御未来量子攻击的强悍防护能力。
软硬件效率突破:单张 H100支撑4000亿参数 MoE
在算力开销与硬件部署方面，FlashProve同样展现出了极高的工程实用价值。面对动辄数千亿参数的现代混合专家模型（MoE），系统通过精妙的流式处理架构，成功化解了以往验证过程中面临的巨大显存占用难题。
测试数据显示，该系统仅凭单张 H100显卡，就足以支撑高达4000亿参数规模的 MoE 大模型流畅运行与实时验真，使得高性能的安全验证不再高不可攀。
AI 造系统、Lean 保真伪:开创全新工程范式
除了惊艳的技术参数，FlashProve的研发过程本身也堪称人工智能辅助工程的里程碑。项目整体代码中95% 以上的内容均由Claude独立生成，并依托Lean4形式化数学验证工具完成了全量的数学形式化证明。
在这套全新的工程范式中，人类研究员仅需敲定顶层的安全定义，其余繁琐的代码实现与逻辑推演均由 AI 自动完成，从而确保了系统在完备性、知识可靠性以及零知识这三大核心特性上的绝对可靠。此外，该系统还针对智能体（Agent）的实际运行需求，量身设计了一套配套的安全操作规范。
随着FlashProve的全面开源，行业内长期存在的“套壳 AI”将失去生存空间。它不仅为开发者和企业提供了一把高效的打假利器，也通过前沿密码学与 AI 的深度融合，开启了人工智能可信验证的全新时代。
via AI新闻资讯 (author: AI Base)
人工智能开源生态的繁荣在带来便利的同时，也催生了层出不穷的“套壳模型”现象——部分开发者或机构将开源模型稍作包装，甚至偷换权重、篡改输出，便对外宣称是自主研发的全新模型。为了从根源上打击这种行业乱象，人工智能明星企业Anthropic近日正式推出并开源了全新的大模型可证明推理系统 ——FlashProve。该系统凭借底层的密码学技术，实现了对模型真实身份的精准验真，为大模型生态的透明化与合规化树立了全新标杆。
技术硬核解析:基于 zkSNARK 的三步验真闭环
作为一款主打“验真”的系统，FlashProve的核心技术路线摒弃了传统需要获取庞大模型权重或重新完整跑一遍模型的繁琐流程，而是创新性地引入了零知识证明 zkSNARK 技术。整个验证过程精简为高效的三步闭环:
离线生成权重唯一承诺 ID: 在模型部署前，系统会为其生成一个独特的密码学承诺标识（Commitment ID），作为该模型不可篡改的“数字身份证”。
在线生成推理密码学证明: 当大模型在云端处理用户请求并输出结果时，系统会同步生成对应的密码学推理证明。
普通 CPU 端17秒快速验真: 验证方无需调取模型的高昂权重，也无需重复运行模型，仅需在一台普通的 CPU 终端上耗时17秒，就能对密码学证明进行完整解析。
这一突破性的设计，不仅能100% 精准验证大模型的输出是否确实由指定的 condamned 目标模型生成，还能彻底杜绝任何偷换模型、篡改输出等投机倒把的套壳掉包行为。更值得一提的是，该系统的底层安全性设计经过严格推演，具备能够抵御未来量子攻击的强悍防护能力。
软硬件效率突破:单张 H100支撑4000亿参数 MoE
在算力开销与硬件部署方面，FlashProve同样展现出了极高的工程实用价值。面对动辄数千亿参数的现代混合专家模型（MoE），系统通过精妙的流式处理架构，成功化解了以往验证过程中面临的巨大显存占用难题。
测试数据显示，该系统仅凭单张 H100显卡，就足以支撑高达4000亿参数规模的 MoE 大模型流畅运行与实时验真，使得高性能的安全验证不再高不可攀。
AI 造系统、Lean 保真伪:开创全新工程范式
除了惊艳的技术参数，FlashProve的研发过程本身也堪称人工智能辅助工程的里程碑。项目整体代码中95% 以上的内容均由Claude独立生成，并依托Lean4形式化数学验证工具完成了全量的数学形式化证明。
在这套全新的工程范式中，人类研究员仅需敲定顶层的安全定义，其余繁琐的代码实现与逻辑推演均由 AI 自动完成，从而确保了系统在完备性、知识可靠性以及零知识这三大核心特性上的绝对可靠。此外，该系统还针对智能体（Agent）的实际运行需求，量身设计了一套配套的安全操作规范。
随着FlashProve的全面开源，行业内长期存在的“套壳 AI”将失去生存空间。它不仅为开发者和企业提供了一把高效的打假利器，也通过前沿密码学与 AI 的深度融合，开启了人工智能可信验证的全新时代。
via AI新闻资讯 (author: AI Base)
谷歌给美国中小学出"二选一"：开 AI 搜索，或关掉搜索
据彭博社 11 月 3 日报道，谷歌对面向美国中小学的服务权限动了刀。教育业务负责人克里斯·菲利普斯明确：从幼儿园到高三的学生账户，谷歌搜索、Gemini 聊天机器人、Gemini Notebook 以及谷歌课堂里的 Gemini 功能，默认一律关闭，必须靠学校管理员手动开启。换句话说，搜索的开关握在管理员手里——但一旦打开搜索，内嵌的 AI 能力也跟着放行。
家长与学区的抵触，逼出这道"单选题"
背景是不断升温的反弹。Chromebook 虽是美国校园最普及的笔记本，可家长和学区对 AI 的戒备越来越重。今年 8 月，谷歌曾给允许使用 Gemini 的学校默认开放课堂聊天机器人，就引来管理者批评；9 月初，纽约市干脆禁止八年级及以下学生本学年使用生成式 AI，洛杉矶联合学区也把学区设备上的生成式 AI（无论独立工具或 Workspace 内置）全数禁用。压力之下，谷歌把规则收得更紧：学区只能二选一——要么允许含 AI 的搜索，要么彻底关掉学生搜索权限。
不直接给答案，引导式学习要"陪想"
为缓和争议，谷歌还打算把 Gemini 里最早推出的"引导式学习"搬进搜索：系统若判断学生在求作业辅导，就一步步引其思考而非奉上答案。比如输一道物理题或问怎么写读书报告，搜索不会直接报结果，而是用提示帮学生逐步吃透知识点。这既回应"AI 替写作业"的担忧，也把搜索从"给答案"拉回"教方法"。
via AI新闻资讯 (author: AI Base)
据彭博社 11 月 3 日报道，谷歌对面向美国中小学的服务权限动了刀。教育业务负责人克里斯·菲利普斯明确：从幼儿园到高三的学生账户，谷歌搜索、Gemini 聊天机器人、Gemini Notebook 以及谷歌课堂里的 Gemini 功能，默认一律关闭，必须靠学校管理员手动开启。换句话说，搜索的开关握在管理员手里——但一旦打开搜索，内嵌的 AI 能力也跟着放行。
家长与学区的抵触，逼出这道"单选题"
背景是不断升温的反弹。Chromebook 虽是美国校园最普及的笔记本，可家长和学区对 AI 的戒备越来越重。今年 8 月，谷歌曾给允许使用 Gemini 的学校默认开放课堂聊天机器人，就引来管理者批评；9 月初，纽约市干脆禁止八年级及以下学生本学年使用生成式 AI，洛杉矶联合学区也把学区设备上的生成式 AI（无论独立工具或 Workspace 内置）全数禁用。压力之下，谷歌把规则收得更紧：学区只能二选一——要么允许含 AI 的搜索，要么彻底关掉学生搜索权限。
不直接给答案，引导式学习要"陪想"
为缓和争议，谷歌还打算把 Gemini 里最早推出的"引导式学习"搬进搜索：系统若判断学生在求作业辅导，就一步步引其思考而非奉上答案。比如输一道物理题或问怎么写读书报告，搜索不会直接报结果，而是用提示帮学生逐步吃透知识点。这既回应"AI 替写作业"的担忧，也把搜索从"给答案"拉回"教方法"。
via AI新闻资讯 (author: AI Base)
Google 学校账号默认关闭 Gemini 与搜索
Google 为学校推出新的 AI 设置：K-12 学生账号默认关闭 Gemini 与 Google 搜索等 AI 功能，需管理员手动开启；因搜索与 AI 深度整合，关掉 AI 便等于关掉搜索。
2027 年初学校只剩两个选择：启用带 AI 概览的完整功能，或以 Guided Learning 取代，否则学生用不上搜索。该功能本月起在美国部分学校试点。
9To5Google
🌸 科技圈· 茶馆 · 投稿
via 在花🎗️科技圈 - Telegram Channel
Google 为学校推出新的 AI 设置：K-12 学生账号默认关闭 Gemini 与 Google 搜索等 AI 功能，需管理员手动开启；因搜索与 AI 深度整合，关掉 AI 便等于关掉搜索。
2027 年初学校只剩两个选择：启用带 AI 概览的完整功能，或以 Guided Learning 取代，否则学生用不上搜索。该功能本月起在美国部分学校试点。
9To5Google
🌸 科技圈· 茶馆 · 投稿
via 在花🎗️科技圈 - Telegram Channel
NVIDIA 推出了 OpenShell，一个开源项目，旨在为 AI 代理构建安全的运行环境。它为 AI 代理提供了必要的权限来读取文件、安装包、调用 API 和使用凭据，同时通过细粒度策略控制，避免代理对你的数据、机密或网络进行无限制访问。即使代理行为异常或被劫持，也会受限于 OpenShell 设定的安全边界
OpenShell 通过两种方式管理 AI 代理行为：首先，它会修改内核以在运行时对文件访问、系统调用和网络连接强制执行策略；其次，它会使用形式化验证，在策略更改生效前检查其可能带来的新权限，确保不会意外开放高风险访问。这意味着用户可以精确设定每个代理的权限，例如允许读取 GitHub API 但禁止发布
该项目支持 Claude Code、Codex、OpenCode 和 GitHub Copilot CLI 等多种代理，以及 Ollama、OpenClaw 和 Hermes Agent。NVIDIA 在去年 10 月还在此基础上构建了企业参考架构，支持 Anthropic、Cohere、Google、Meta、OpenAI 等八家模型厂商的代理。OpenShell 仍在早期阶段，版本号从 0.0 开始，公开的生产实践经验尚不多
🔗 信源
🗝 Roller | AI 中文社区
via Roller | Agent Swarms 中文社区 - Telegram Channel
