自选
我的自选
查看全部
市值 价格 24h%
  • 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

ChatGPT在新墨西哥州谋杀案上诉中虚构证人证词

2026-09-11 22:32:16
收藏

新墨西哥州律师因在上诉书中使用ChatGPT捏造证词被罚

一名在新墨西哥州从事刑事辩护的律师在案件审理过程中使用了ChatGPT,随后向新墨西哥州最高法院提交了一份包含虚构警方陈述和证人证言的法律文书。新墨西哥州最高法院裁定,该律师斯蒂芬·阿隆斯(Stephen Aarons)未能核实由人工智能生成的材料。法官指出,该文件“包含了完全捏造的证人提供的虚假证词”。

周三,法院以藐视法庭罪对斯蒂芬处以5,000美元罚款,并将其行为提交至律师纪律委员会处理。法官表示,斯蒂芬“表现出缺乏悔意,且漠视其客户的利益”。斯蒂芬称,他在去年提起上诉后,曾使用ChatGPT来精简庭审记录。他表示,自己并未意识到AI“幻觉”现象可能产生的严重后果,也未预见到软件能够如此自信地编造从未发生的事实。

案情背景与律师回应

斯蒂芬是位于圣菲的一名私人执业律师,他代表奥斯卡·雷内·桑多瓦尔(Oscar Renee Sandoval)。奥斯卡被指控杀害其子女的母亲,并对此罪行拒不认罪。去年,他被判有罪并获终身监禁,目前其上诉程序仍在进行中。

斯蒂芬据称向记者表示,这一错误属于无心之失。“我深感悔恨,但希望纪律委员会能考虑到这并非故意行为。”他说,“这对于所有依赖这种强大但有时不稳定的技术的专业人士来说,都是一个深刻的教训。”

此前,已有不少律师因过度依赖不受控的AI辅助而受到处罚。在州法院和联邦法院中,均出现过律师因提交包含伪造案例、参考文献及误引法律条款的文书而面临指控的情况。斯蒂芬的案件在此类事件中尤为突出,因为其在上诉程序中直接引用了虚假的证人证言。

9月2日,奥斯卡的案件移交给了新墨西哥州公设辩护人金·查韦斯·库克(Kim Chavez Cook)。在金接手此案期间,案件仍处于开放状态。

佛罗里达州官员审查与FSU枪击案相关的1.6万条ChatGPT聊天记录

另一场法律纠纷则涉及佛罗里达州立大学(FSU)枪击案后的ChatGPT相关争议。已故受害者蒂鲁·查巴(Tiru Chabba)家属的代表律师在美国联邦法院起诉了OpenAI、ChatGPT以及嫌疑人菲尼克斯·伊克纳(Phoenix Ikner)。

该案于周日在佛罗里达北区美国地区法院提起诉讼,主张OpenAI在此情况下应采取行动。佛罗里达州执法部门公布了菲尼克斯使用ChatGPT的对话记录,其中包含关于如何操作枪支、媒体覆盖情况、FSU最繁忙的时间段、哥伦拜恩校园枪击案以及如何让自己“臭名昭著”等查询内容。

家属律师:AI成为共谋者

蒂鲁的家属代理律师巴克里·塞勒斯(Bakari Sellers)表示,这些对话记录跨度约18个月,总计约1.6万条“令人不安的聊天内容”。“就是同一个人,他询问如何让自己臭名昭著,询问有关哥伦拜恩枪击案的信息,还询问应该什么时候去校园,那里的人最多的时候是什么时候?”巴克里说。

他补充道:“他 literally(确切地)利用OpenAI和ChatGPT作为他的共谋者,将其作为实施大规模谋杀的资源。当时没有任何措施能阻止这种情况的发生,导致生命逝去。这就是固有的危险所在,必须建立机制来防止此类事件发生。”

OpenAI否认责任

OpenAI拒绝为此次枪击案承担责任。发言人德鲁·普萨泰里(Drew Pusateri)表示,公司在获悉事件发生后,发现了一个被认为与菲尼克斯相关的账户,并主动向警方提供了相关信息。德鲁强调,OpenAI仍在配合当局调查。

“去年的佛罗里达州立大学大规模枪击案是一场悲剧,但ChatGPT并不应对这项可怕的犯罪负责。”德鲁说。他指出,ChatGPT回答的内容均来自公共互联网上广泛存在的事实材料,并未推广非法或有害行为。他还提到,每天有数亿人出于正当目的使用ChatGPT。

根据德鲁的说法,OpenAI正在不断改进其工具,以帮助识别用户意图、防止滥用,并在出现安全问题关切时采取行动。

此次诉讼发生在佛罗里达州类似案件之后。州司法部长詹姆斯·乌特梅尔(James Uthmeier)最近透露,全州检察办公室已针对OpenAI和ChatGPT启动了刑事调查。

展开阅读全文
更多新闻