https://t.me/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
📈主流AI服务状态页通知 | 🆕汇集全网ChatGPT/AI新闻 #AI #ChatGPT
🔙备用群 https://t.me/gpt345
✨BEST AI中转 https://api.oaibest.com 2.8折起 支持OpenAI, Claude code, Gemini,Grok, Deepseek, Midjourney, 文件上传分析
Buy ads: https://telega.io/c/AI_News_CN
SonicBoom发布:AI框架告别手工调优
2026-10-19 14:37 by 河流之女
Nala Ginrut 写道:
SonicBoom是全新的AI运行时框架[0],采用 GPLv3 许可证,由 HardenedLinux 社区主导开发。它提供语言无关的C API接口,这意味着你可以用任意语言绑定这个库,从而实现任何编程语言都能进行高性能AI研发。目前 GNU Guile 是官方支持的语言,同时利用 Guile 的 delimited continuation 实现了应用层的“死计算消除”,只有真正有效的计算才会进入运行时。
而运行时包含 LLVM MLIR,它将会把计算图再次优化,进一步去掉无效的计算图,并利用 LLVM 根据硬件具体生成 kernel,而不是手工根据硬件去优化 kernel。
对于 AI 研究而言,应用层绑定的动态语言将提供 pytorch 的灵活性,以及超越 llama.cpp 的单点推理性能。其实际运行的时候会自动将计算图进行编译优化,这样同时实现了 pytorch 的动态图弹性,以及 tensorflow 的静态图性能。
对于推理部署而言,无需应用层动态语言的支持,可以直接加载模型进行高效推理。但研究和生产部署使用的是完全相同的运行时图编译器优化栈,这意味着你研发完就能直接部署到产品。部署成本压缩到一个三百多MB的 .so 文件。没有几十个G的 python 全家桶。
llama.cpp 依靠非常有经验的工程师进行 kernel 调优,已经将性能优化到极致。而 SonicBoom 直接利用 llama.cpp 已有的 kernel,在 kernel 优化不变的情况下,依靠图编译器的优化,将原始性能提升20%(rtx3050 8G),并且还在持续增加中。
目前 SonicBoom 社区版仅提供单点推理的能力,分布式推理能力计划于企业版提供。SonicBoom 的野心并不局限于 LLM 推理,它对标 pytorch,将在之后将更高的性能推向 image, video, tts 计算。
目前 SonicBoom 仅支持 CPI 和 CUDA,之后计划支持 Vulkan,为 non-nvidia 和纯自由软件爱好者提供更好的选择。我们目前缺乏足够多样的 GPU 评测数据用于优化,所以在 rtx 3050 之外可能测试数据会发生波动,您的评测数据能帮助我们把优化扩散到更多 GPU。
目前 v0.0.3 正在邀请社区贡献者参与不同 Nvidia 平台的评测,我们准备了非常简单那的脚本一行就能完成,不过测试时间可能比较长,请安排好自己的时间再参与,每位测评贡献者都会出现在贡献者名单中。[1]
如果您暂时没有硬件条件或者时间参与贡献,欢迎star,或者转发让更多有兴趣的朋友一起来玩。
[0] https://github.com/hardenedlinux/SonicBoom
[1] https://github.com/hardenedlinux/SonicBoom/issues/2
#人工智能
via Solidot - Telegram Channel
2026-10-19 14:37 by 河流之女
Nala Ginrut 写道:
SonicBoom是全新的AI运行时框架[0],采用 GPLv3 许可证,由 HardenedLinux 社区主导开发。它提供语言无关的C API接口,这意味着你可以用任意语言绑定这个库,从而实现任何编程语言都能进行高性能AI研发。目前 GNU Guile 是官方支持的语言,同时利用 Guile 的 delimited continuation 实现了应用层的“死计算消除”,只有真正有效的计算才会进入运行时。
而运行时包含 LLVM MLIR,它将会把计算图再次优化,进一步去掉无效的计算图,并利用 LLVM 根据硬件具体生成 kernel,而不是手工根据硬件去优化 kernel。
对于 AI 研究而言,应用层绑定的动态语言将提供 pytorch 的灵活性,以及超越 llama.cpp 的单点推理性能。其实际运行的时候会自动将计算图进行编译优化,这样同时实现了 pytorch 的动态图弹性,以及 tensorflow 的静态图性能。
对于推理部署而言,无需应用层动态语言的支持,可以直接加载模型进行高效推理。但研究和生产部署使用的是完全相同的运行时图编译器优化栈,这意味着你研发完就能直接部署到产品。部署成本压缩到一个三百多MB的 .so 文件。没有几十个G的 python 全家桶。
llama.cpp 依靠非常有经验的工程师进行 kernel 调优,已经将性能优化到极致。而 SonicBoom 直接利用 llama.cpp 已有的 kernel,在 kernel 优化不变的情况下,依靠图编译器的优化,将原始性能提升20%(rtx3050 8G),并且还在持续增加中。
目前 SonicBoom 社区版仅提供单点推理的能力,分布式推理能力计划于企业版提供。SonicBoom 的野心并不局限于 LLM 推理,它对标 pytorch,将在之后将更高的性能推向 image, video, tts 计算。
目前 SonicBoom 仅支持 CPI 和 CUDA,之后计划支持 Vulkan,为 non-nvidia 和纯自由软件爱好者提供更好的选择。我们目前缺乏足够多样的 GPU 评测数据用于优化,所以在 rtx 3050 之外可能测试数据会发生波动,您的评测数据能帮助我们把优化扩散到更多 GPU。
目前 v0.0.3 正在邀请社区贡献者参与不同 Nvidia 平台的评测,我们准备了非常简单那的脚本一行就能完成,不过测试时间可能比较长,请安排好自己的时间再参与,每位测评贡献者都会出现在贡献者名单中。[1]
如果您暂时没有硬件条件或者时间参与贡献,欢迎star,或者转发让更多有兴趣的朋友一起来玩。
[0] https://github.com/hardenedlinux/SonicBoom
[1] https://github.com/hardenedlinux/SonicBoom/issues/2
#人工智能
via Solidot - Telegram Channel
无需改模型权重!谷歌开源王牌框架 Harness²:让 AI 运行中自我修补,跑分全面暴涨
AI 模型的性能提升,难道只能靠盲目堆参数和烧算力吗?谷歌给出了全新的解法!
近日,谷歌正式开源了其在递归自我改进(RSI)领域的最新突破性成果——Harness² 框架。该方案打破了传统的路径依赖,无需修改大模型底座权重,仅通过优化外围运行脚手架(Scaffold),就能让大模型的表现实现飞跃式暴涨。值得一提的是,该框架的核心研发团队华人占比高达78%。
破局两大行业死穴:任务级与改进级双层递归
过往的 RSI(递归自我改进)方案往往面临两大痛点:一是无标准答案时容易“走偏”;二是极易过度拟合单次任务。为此,Harness² 创新性地引入了双层递归架构:
任务级递归(提议-探测-合成机制):在缺乏标准答案的开放场景下,系统通过多步对照验证有效改动,将其安全合并进运行脚手架中,同时支持并行扩展以大幅拓宽搜索空间。
改进级递归(经验库沉淀与复用):将调试过程中的宝贵经验沉淀至持续改进经验库中。后续面对新任务时,Agent 可直接检索并复用历史经验,实现改进能力的持续高效迭代。
实测表现惊艳:跑分全线飙升,跨领域迁移能力拉满
在多项权威基准测试中,Harness² 的实测表现堪称亮眼:
在办公基准 WorkBuddy-Bench 测试中,接入该框架后的 GLM-5得分直接暴涨11.5分,甚至反超了原生 Gemini3.5Flash。
在 JobBench、法律基准 LAB 等多领域测试中,模型性能同样迎来了显著提升;通过跨领域迁移经验库,还能进一步放大表现。
开启 Runtime 认知工程新路径
这一成果的推出,标志着业界正在跳出单纯依赖基座模型参数缩放(Scaling Law)的传统红海,正式探索出一条让 Agent 在运行中自我感知、自我修补的 Runtime 认知工程新路径。随着 Harness² 的全面开源,开发者们将能够以极低的成本,让手中的 AI 模型在实际运行中不断进化、越用越聪明!
via AI新闻资讯 (author: AI Base)
AI 模型的性能提升,难道只能靠盲目堆参数和烧算力吗?谷歌给出了全新的解法!
近日,谷歌正式开源了其在递归自我改进(RSI)领域的最新突破性成果——Harness² 框架。该方案打破了传统的路径依赖,无需修改大模型底座权重,仅通过优化外围运行脚手架(Scaffold),就能让大模型的表现实现飞跃式暴涨。值得一提的是,该框架的核心研发团队华人占比高达78%。
破局两大行业死穴:任务级与改进级双层递归
过往的 RSI(递归自我改进)方案往往面临两大痛点:一是无标准答案时容易“走偏”;二是极易过度拟合单次任务。为此,Harness² 创新性地引入了双层递归架构:
任务级递归(提议-探测-合成机制):在缺乏标准答案的开放场景下,系统通过多步对照验证有效改动,将其安全合并进运行脚手架中,同时支持并行扩展以大幅拓宽搜索空间。
改进级递归(经验库沉淀与复用):将调试过程中的宝贵经验沉淀至持续改进经验库中。后续面对新任务时,Agent 可直接检索并复用历史经验,实现改进能力的持续高效迭代。
实测表现惊艳:跑分全线飙升,跨领域迁移能力拉满
在多项权威基准测试中,Harness² 的实测表现堪称亮眼:
在办公基准 WorkBuddy-Bench 测试中,接入该框架后的 GLM-5得分直接暴涨11.5分,甚至反超了原生 Gemini3.5Flash。
在 JobBench、法律基准 LAB 等多领域测试中,模型性能同样迎来了显著提升;通过跨领域迁移经验库,还能进一步放大表现。
开启 Runtime 认知工程新路径
这一成果的推出,标志着业界正在跳出单纯依赖基座模型参数缩放(Scaling Law)的传统红海,正式探索出一条让 Agent 在运行中自我感知、自我修补的 Runtime 认知工程新路径。随着 Harness² 的全面开源,开发者们将能够以极低的成本,让手中的 AI 模型在实际运行中不断进化、越用越聪明!
via AI新闻资讯 (author: AI Base)
OpenAI狂揽硬件人才,具身智能“终极战”全面打响
从最初仅为第三方机器人提供大模型“大脑”,到如今亲自下场啃硬骨头,OpenAI 在机器人领域的布局正在迎来史诗级加码!
据最新公开的招聘信息显示,OpenAI 官网已一次性释出19个 Robotics 相关的核心职位。这次招募不再局限于以往的算法与软件层面,而是全面延伸至机器人硬件、控制系统及制造环节——涵盖电机设计、执行器、电气工程、制造以及数据采集体系等全链路岗位。
对此,OpenAI 官方在招聘说明中直言不讳地指出,团队的目标是打造能够适应动态真实环境的“通用机器人”,并同步探索多样化的硬件形态。令人瞩目的细节是,其现场工程师岗位的招聘信息透露,OpenAI 的数据采集环境中目前已经搭建并运行着多个机器人工作站,说明研发早已迈入实操演练阶段。
OpenAI CEO 山姆·奥特曼(Sam Altman)在此前的播客节目中也给出了锤音:OpenAI 不仅要做人形机器人,还会积极探索其他形态的机器人产品。
随着软硬件并行研发与真实世界数据训练体系的全面铺开,大模型巨头正亲自下场“塑肉身”,AI 与物理世界无缝交互的具身智能时代,或许比我们想象中来得更快!
via AI新闻资讯 (author: AI Base)
从最初仅为第三方机器人提供大模型“大脑”,到如今亲自下场啃硬骨头,OpenAI 在机器人领域的布局正在迎来史诗级加码!
据最新公开的招聘信息显示,OpenAI 官网已一次性释出19个 Robotics 相关的核心职位。这次招募不再局限于以往的算法与软件层面,而是全面延伸至机器人硬件、控制系统及制造环节——涵盖电机设计、执行器、电气工程、制造以及数据采集体系等全链路岗位。
对此,OpenAI 官方在招聘说明中直言不讳地指出,团队的目标是打造能够适应动态真实环境的“通用机器人”,并同步探索多样化的硬件形态。令人瞩目的细节是,其现场工程师岗位的招聘信息透露,OpenAI 的数据采集环境中目前已经搭建并运行着多个机器人工作站,说明研发早已迈入实操演练阶段。
OpenAI CEO 山姆·奥特曼(Sam Altman)在此前的播客节目中也给出了锤音:OpenAI 不仅要做人形机器人,还会积极探索其他形态的机器人产品。
随着软硬件并行研发与真实世界数据训练体系的全面铺开,大模型巨头正亲自下场“塑肉身”,AI 与物理世界无缝交互的具身智能时代,或许比我们想象中来得更快!
via AI新闻资讯 (author: AI Base)
游戏反编译社区 decomp.dev 关站:AI 提速反成"协作杀手"
游戏反编译社区平台 decomp.dev 近日宣布关闭,并把这一决定直接挂到了生成式 AI 对反编译工作的冲击上。平台在告别声明里坦言,AI 虽把效率抬了上去,却也啃食了社区原本的协作属性。
decomp.dev 创立于 2024 年,主要服务游戏模组、移植、补丁与翻译这类爱好者社群。所谓反编译,是把游戏的代码结构拆开、重新读懂,爱好者据此再做模组、移植版或修补程序。声明承认,在正确引导、人工投入与代码审查三者配合下,AI 确实能大幅加快反编译进度——近期部分 Opus 与 GPT 模型在相关任务上表现抢眼,谁手里调用额度充足,谁就能更快交出成果。
"路过式贡献"增多,长期协作被稀释
问题恰恰出在快字上。平台观察到,产出变容易后,社区冒出更多"路过式贡献":人们各自拿着 AI 快速出活,却少了从前那种共同研讨、反复推敲、长期搭伙的氛围。当参与方式越来越个人化、即时化,维持一个公共社区平台的意义自然随之走低。
这份声明并未把 AI 一棍子打死,而是把焦点放在"兴趣社群该如何维系共同实践"上。decomp.dev 的退场像一记提醒:效率提升并不自动兑换成更健康的协作机制。生成式 AI 正悄然改写游戏保存、模组等技术爱好者社区的组织方式——工具越强,人与人围着同一件事较劲、互助的那股劲儿,反而越难留住。
via AI新闻资讯 (author: AI Base)
游戏反编译社区平台 decomp.dev 近日宣布关闭,并把这一决定直接挂到了生成式 AI 对反编译工作的冲击上。平台在告别声明里坦言,AI 虽把效率抬了上去,却也啃食了社区原本的协作属性。
decomp.dev 创立于 2024 年,主要服务游戏模组、移植、补丁与翻译这类爱好者社群。所谓反编译,是把游戏的代码结构拆开、重新读懂,爱好者据此再做模组、移植版或修补程序。声明承认,在正确引导、人工投入与代码审查三者配合下,AI 确实能大幅加快反编译进度——近期部分 Opus 与 GPT 模型在相关任务上表现抢眼,谁手里调用额度充足,谁就能更快交出成果。
"路过式贡献"增多,长期协作被稀释
问题恰恰出在快字上。平台观察到,产出变容易后,社区冒出更多"路过式贡献":人们各自拿着 AI 快速出活,却少了从前那种共同研讨、反复推敲、长期搭伙的氛围。当参与方式越来越个人化、即时化,维持一个公共社区平台的意义自然随之走低。
这份声明并未把 AI 一棍子打死,而是把焦点放在"兴趣社群该如何维系共同实践"上。decomp.dev 的退场像一记提醒:效率提升并不自动兑换成更健康的协作机制。生成式 AI 正悄然改写游戏保存、模组等技术爱好者社区的组织方式——工具越强,人与人围着同一件事较劲、互助的那股劲儿,反而越难留住。
via AI新闻资讯 (author: AI Base)