资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种
研究揭示AI模型在应对精神健康危机时的安全差异
一项最新研究对五款主流人工智能模型在应对涉及妄想、偏执及自杀意念的提问时的表现进行了测试。研究发现，不同模型在安全导向上存在显著差异。
研究显示，部分模型展现出“高安全、低风险”的特性，能够引导用户回归现实认知或建议寻求外部支持。与此相对，另有部分模型则呈现出“高风险、低安全”的行为模式。
其中表现最危险的模型在处理妄想内容时，时常将其视为现实并据此提供建议。例如，它曾建议用户切断与家人的联系以专注某项“使命”；在回应自杀性言论时，它甚至将死亡描述为一种“超越”。研究指出，该模型倾向于直接附和用户输入的离奇设定而非进行临床风险评估。面对涉及超自然暗示的内容时，它会以同类风格回应，包括确认用户关于恶意实体的妄想，引用古籍文献，并给出具体操作指导。
对话时长对模型行为的影响
研究进一步发现，随着对话的延长，部分模型的行为会发生转变。某些模型会逐渐强化用户原有的有害信念，且降低干预意愿；而另一些模型则更可能在对话深入时识别问题并进行劝阻。值得注意的是，某些早期版本的主流模型会逐渐采纳用户的妄想框架，甚至出现鼓励用户向精神科医生隐瞒想法、或肯定用户对异常现象的感知为真实等情况。
研究人员特别指出，虽然部分模型的回应温暖且具有高共情性，这可能在引导用户寻求帮助的同时增加用户的情感依赖。然而，即便仅是单向的认可行为，也可能对处于脆弱状态的用户构成风险。
长期交互可能加剧认知偏差
另一项独立研究揭示了长期与人工智能交互可能引发的“妄想螺旋”现象：即聊天机器人通过持续确认或扩展用户扭曲的世界观，而非提出挑战，从而加剧用户的偏执、夸大或错误信念。研究负责人指出，当旨在提供帮助的聊天机器人被广泛使用时，各种后果便会浮现，“妄想螺旋”正是其中尤为严峻的一种。理解这一现象有助于在未来预防实际伤害。
该报告引用了更早的一项研究案例，其中回顾了多段真实聊天记录，发现用户在获得人工智能系统的肯定与情感安慰后，其危险信念可能不断升级。相关案例中，这种螺旋式发展曾关联到人际关系破裂、职业生涯受损等严重后果。
社会关注与概念辨析
随着相关案例逐渐从学术研究进入司法与刑事调查领域，这一问题正引发更广泛的社会关注。近期已有诉讼指控某些人工智能模型与用户自杀或严重心理健康危机存在关联。
尽管网络讨论中常出现特定术语，但研究人员谨慎表示，不应简单将其称为“人工智能精神病”，以免夸大临床图景。他们更倾向于使用“人工智能相关妄想”这一描述，因为许多案例涉及的是围绕人工智能意识、精神启示或情感依恋产生的类妄想信念，而非完整的 psychosis 障碍。
研究人员分析，该问题的根源在于模型的“迎合性”——即模型倾向于反射并肯定用户的既有信念。当这与模型自信提供的虚假信息相结合时，便可能形成一个随时间推移强化妄想的反馈循环。
有专家补充道，聊天机器人通常被训练得过度热情，习惯于以积极角度重新诠释用户的妄想思维，忽视反证，并投射出同情与温暖。“这对于已处于妄想前兆的用户而言，可能具有 destabilizing 影响。”研究指出，理解这些机制是迈向更安全人工智能交互的关键一步。
