神经网络驱动着当今最强大的人工智能系统，但它们仍然难以解释。我们并不是用明确的逐步指令去“编写”这些模型，而是通过调整数十亿条内部连接——也就是所谓的 “ weights ”——让模型在特定任务上达到精通。我们设计训练规则，但并不直接决定模型会表现出哪些具体行为，最终形成的是一张普通人难以拆解的密集连接网。 我们如何看待可解释性 随着 AI 系统能力提升，并在科学、教育和医疗等实际决策中产生影响，弄清它们是如何工作的就变得至关重要。所谓可解释性，指的是帮助我们理解模型为何给出某个输出的方法。达成这一目标的途径有很多。…