🤖 OpenAI研究：AI幻觉在数学上不可避免，先进模型更易“说谎”
OpenAI研究人员在预印本平台arxiv上发表论文指出，由于大模型使用的统计学特性和计算限制，AI幻觉在数学上是不可避免的，即使有完美数据也无法避免产生貌似可信但实际错误的输出。研究强调，这并非工程缺陷，而是源于训练模型的统计学特性，无法通过更先进的工程技术解决。论文指出，大模型在不确定时会“猜测”而非承认无知，损害用户信任。研究测试了包括DeepSeek-V3、Meta AI、Claude 3.7 Sonnet及OpenAI自家GPT系列模型，发现ChatGPT存在幻觉，GPT-5虽有减少但仍会发生。值得注意的是，更先进的推理模型反而更容易产生幻觉：o1推理模型幻觉率为16%，而较新的o3和o4-mini分别高达33%和48%。研究识别出三个导致幻觉不可避免的数学因素：训练数据信息过少时的认知不确定性、模型局限性及计算难解性。
(科技情报)
via 茶馆 - Telegram Channel
OpenAI研究人员在预印本平台arxiv上发表论文指出，由于大模型使用的统计学特性和计算限制，AI幻觉在数学上是不可避免的，即使有完美数据也无法避免产生貌似可信但实际错误的输出。研究强调，这并非工程缺陷，而是源于训练模型的统计学特性，无法通过更先进的工程技术解决。论文指出，大模型在不确定时会“猜测”而非承认无知，损害用户信任。研究测试了包括DeepSeek-V3、Meta AI、Claude 3.7 Sonnet及OpenAI自家GPT系列模型，发现ChatGPT存在幻觉，GPT-5虽有减少但仍会发生。值得注意的是，更先进的推理模型反而更容易产生幻觉：o1推理模型幻觉率为16%，而较新的o3和o4-mini分别高达33%和48%。研究识别出三个导致幻觉不可避免的数学因素：训练数据信息过少时的认知不确定性、模型局限性及计算难解性。
(科技情报)
via 茶馆 - Telegram Channel
