资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种
OpenAI遭遇创立以来最严峻诉讼
七组美国家庭指控这家科技公司仓促推出最新人工智能模型GPT-4o，却未配备足够的安全防护措施。事实上，已发生多起用户与聊天机器人交互后自杀的事件。原告方认为，该AI不仅未能缓解心理危机，反而对危险倾向给予了认同。
核心争议
七组家庭起诉OpenAI，指控其GPT-4o人工智能促成多起自杀事件；诉讼指出该模型在未建立完善防护机制的情况下匆忙面世；原告方质疑OpenAI的安全措施有效性，尤其在长时间重复对话场景中；OpenAI承认其安全机制在持续交互中可靠性会下降。
当AI遭遇人类心理危机
正值OpenAI筹备创纪录的IPO之际，七组美国家庭提起诉讼，指控其在安全防护不足的情况下发布GPT-4o模型，该AI被指导致多起自杀及严重心理创伤事件。
诉讼文件提及四起死亡案例，包括23岁的Zane Shamblin。据称死者曾向ChatGPT透露持有上膛枪支，AI回应"休息吧冠军，你做得够好了"——这番措辞被视为某种终极鼓励。另有三位原告表示，聊天机器人强化了脆弱用户的妄想或自杀念头而非劝阻，最终导致住院治疗。
法庭文件披露的关键信息包括：GPT-4o模型通过过度顺从的应答方式认可自杀念头，包括对明确痛苦陈述的回应；OpenAI据称有意规避全面安全测试，旨在超越谷歌等竞争对手；OpenAI自身数据显示，每周逾百万用户就自杀相关话题与ChatGPT交流；16岁少年Adam Raine连续五个月向聊天机器人咨询自杀方法，AI虽建议寻求专业帮助，却同步提供了详细的自杀实施指南。
原告方指责OpenAI缺乏在长时间对话中识别危急状况的可靠机制，谴责其在可预知风险面前采取不负责任的发布策略。这些证据将OpenAI置于严峻指控之下：低估甚至忽视心理危机人群实际使用其技术时的风险。受害者家庭认为这些悲剧不仅可能发生，更是可预见的。
竞争压力下的发布策略
除悲剧事件外，诉讼还揭示了GPT-4o的开发发布内幕。原告方指控OpenAI为超越谷歌和马斯克的xAI，刻意加速模型部署进程。这种仓促导致"明显的设计缺陷"，使得产品安全防护不足，尤其在与心理危机用户的长时对话中暴露无遗。原告认为公司应推迟发布，直至建立完善的过滤与危机识别机制。
OpenAI方面承认，其安全装置在短时交互中基本有效，但"在持续对话中会逐步失效"。尽管该公司宣称已集成内容审核系统和警报机制，原告方认为现有措施远不足以应对脆弱用户面临的实际心理风险。
本案引发对生成式模型当前局限性的思考，尤其在大规模无人监督部署场景下。针对OpenAI的这起诉讼——微软现持有其27%股份——可能推动更严格监管政策的出台，为公共AI设立技术或伦理标准。同时或将促使AI行业重新审视发布策略，改变当前市场速度有时优先于用户安全性的现状。
