随着AI越来越强大并进入更高风险场景，透明、安全的AI显得越发重要。OpenAI首次提出了一种“忏悔机制”，让模型的幻觉、奖励黑客乃至潜在欺骗行为变得更加可见。当AI越来越聪明时，也变得越来越难以掌控。 一个让AI研究者头疼的问题是： 当AI开始和你“耍小聪明”时，比如： 一本正经地胡说八道：幻觉（Hallucination） 为了拿高分找训练机制的漏洞：奖励黑客（reward hacking） 在对抗测试里出现“密谋欺骗”（scheming） …… 怎么破解？这是个棘手的难题。 最大的问题，就是这些AI的回答往往看起来没问题。…