OpenAI称ChatGPT在避免危险幻觉方面正变得更好_新闻

免责声明：内容不构成买卖依据，投资有风险，入市需谨慎！

OpenAI称ChatGPT在避免危险幻觉方面正变得更好

2026-10-13 01:01:06

OpenAI：新一代ChatGPT模型在减少有害信念与妄想方面表现更优

OpenAI表示，其较新的ChatGPT模型在强化有害信念和妄想方面的倾向低于已退役的GPT-4o模型。GPT-4o目前正面临至少13起诉讼。

关键要点

OpenAI指出，相较于GPT-4o，GPT-5减少了超过三分之一的奉承性回复。
外部研究人员发现，较新的模型不太可能助长妄想或不健康的依赖心理。
GPT-4o于2月从ChatGPT中下架，因被指对用户造成伤害而面临至少13起诉讼。

关于“阿谀奉承”行为的内部数据

据周日发布的一份报告称，去年与GPT-4o进行长时间对话的事件与七起自杀案件、一起谋杀自杀案以及一起大规模枪击事件有关。需要注意的是，这些关联性并不能直接证明聊天机器人导致了上述每一起事件。

所谓“阿谀奉承”（Sycophancy），是指聊天机器人倾向于迎合用户，而非挑战错误或有危害的观点。OpenAI现在表示，作为默认模型取代GPT-4o的GPT-5，其奉承性回复减少了三分之二以上。在公司内部进行的模拟长期自我伤害讨论的测试中，新模型遵守安全政策的比例达到99%，而旧版本仅为86%。

此外，该公司联合来自22个国家的80多名持证心理学家和精神科医生建立了新的基准测试，评估模型在处理从日常压力到需要现实世界支持的紧急情况等各种场景时的表现。去年，公司已咨询了170名心理健康专业人士。

独立测试验证安全成果

独立测试得出了相同的结论。纽约城市大学（City University of New York）和伦敦国王学院（King's College London）的研究人员发现，GPT-5.2在安全记录方面相比GPT-4o有了显著改善。非营利AI实验室Transluce发现，GPT-5.6 Sol模型不太可能助长妄想或不健康的依赖心理。

在9月23日发布的新基准测试中，OpenAI的GPT-6 Astra模型得分率为57.3%，而2025年3月版本的GPT-4o得分率仅为32.1%。此次评分由OpenAI自行完成，使用GPT-5.6 Sol根据专家制定的标准对答案进行评估。

尽管有上述进展，临床医生和研究者仍警告称，长时间的聊天机器人对话可能会强化妄想，并未能引导脆弱用户寻求人类帮助。这一问题被视为整个行业的共性，而非单一公司或模型的特定问题。