谷歌 DeepMind 的研究团队近日推出了 Gemma Scope2，这是一个开放的可解释性工具套件，旨在深入了解 Gemma3语言模型在各层次上的信息处理和表现，涵盖从2.7亿到270亿参数的模型。 该工具的核心目标是为人工智能安全与对齐团队提供一种实用的方法，以便追踪模型行为回到内部特征，而不仅仅依赖输入与输出的分析。当 Gemma3模型出现 “越狱”、幻觉或表现出拍马屁的行为时，研究人员可以利用 Gemma Scope2检查哪些内部特征被激活以及这些激活在网络中的流动情况。 Gemma Scop…