先进AI模型已具备直接读写神经网络权重的能力,能精准修改权重来提升模型能力

研究表明,前沿大模型能够直接读取和写入神经网络权重,其能力已显著超出人类与传统算法的预期,这对模型优化与可解释性具有重要意义。

仅通过检查原始权重,GPT-6 Astra 即可判断出神经网络原本的训练任务。在没有任何环境反馈的前提下,它能从零编写出小型游戏对弈网络,其实际表现优于使用 PPO 算法训练 1 亿步的模型。在要求不借助梯度来提升 Qwen3.5-0.8B 的数学能力时,Astra 在权重中定位到了引发推理死循环的问题(该问题在 Qwen 的模型说明中亦有提示),并通过直接修改其中 0.016% 的权重完成修复。在采样设置保持一致的情况下,这项权重修正使模型在 MATH-500 上的表现从 7.9% 提升至 48.1%,并直接泛化至指令遵循任务,使 IFEval 指标提升了 3 倍。

这一全过程无需模型编写任何训练循环。Astra 依靠逻辑推理判断神经网络各部分正在计算或应当计算的内容,并据此对权重进行调整。这种方法被称为“权重空间编程”(Weight-Space Programming)。长期以来,深度学习将简化的归纳偏置写入 Adam 或 Muon 等符号优化器中;而今后,神经网络权重将直接由具备主动推理能力的大语言模型来进行原生优化。


—— Rikiyat Takehi

via 风向旗参考快讯 - Telegram Channel
 
 
Back to Top
Copyright © 2025 BESTAI. All rights reserved.
BEST AI API中转 - OpenAI DeepSeek Claude Gemini Grok MidJourney API 2.8折起
[email protected]