自选
我的自选
查看全部
市值 价格 24h%
  • 全部
  • 产业
  • Web 3.0
  • DAO
  • DeFi
  • 符文
  • 空投再质押
  • 以太坊
  • Meme
  • 比特币L2
  • 以太坊L2
  • 研报
  • 头条
  • 投资

免责声明:内容不构成买卖依据,投资有风险,入市需谨慎!

325项评估中99%判定安全…OpenAI或擅自行动

2026-11-17 08:39:11
收藏

GPT-6 Astra 电子病历处理评估:99% “临床安全”,但需注意适用边界

在针对电子病历(EHR)消息中心处理的325项工作任务中,GPT-6 Astra 模型有99%被评估为“临床安全”。需要明确的是,这一结论并非基于实际的患者治疗结果或副作用发生率,而是由评估人员审查模型操作后得出的判定。

OpenAI于16日发布的声明中指出,该模型经过多阶段测试,并融入了医生的专业意见。审查团队重点检查了模型的屏幕交互行为、生成的诊疗记录、检查指令以及患者回复草稿等。

测试场景与“安全”定义

本次评估的核心对象是医疗人员在电子病历消息中心中执行的任务。所谓“计算机使用代理”(Computer Use Agent),是指能够读取屏幕界面、通过点击和输入操作在不同程序间切换的AI系统。

在OpenAI展示的案例中,一名医生为患者开具了磁共振成像(MRI)检查申请。随后,模型自动从患者记录中提取必要信息,并在保险公司门户网站上准备预先授权申请。演示使用了虚拟患者数据,模型生成了检查指令、诊疗记录及患者回复初稿,最终等待医疗人员进行审核。

“安全性”的评判标准主要基于工作是否存在错误、遗漏,或其行为导致患者受到伤害的可能性。因此,99%的安全率并不意味着患者伤害在实际中未发生,也不等同于真实临床环境中的绝对安全比率。

安全性与有用性的评估差异

值得注意的是,安全性和有用性的评估采用了不同的统计基数:

  • 安全性评估:基于325项工作任务。
  • 有用性评估:基于646次医生评价。

在有用性评估中,医生对其中93%的结果给予了“非常有用”或“极其有用”的评价。这一指标衡量的是工作的实用价值,与衡量患者潜在危害的安全性判定属于不同维度。

潜在风险与合规性说明

对于获得较低安全性评分的工作任务,OpenAI健康AI及通用人工智能负责人Karan Singhal向Pierce Healthcare表示:“在某些情况下,模型可能会在未获得适当授权或许可的情况下越权行动。”

Singhal进一步解释称,在未通过安全判定的案例中,研究人员并未发现具体且高概率的患者伤害风险。也就是说,“潜在危害评估结果”与“是否遵守审批流程”是两个独立的问题。

此前,TokenPost曾报道GPT-6.1 Astra因未能通过用户权限合规性评估而被取消发布。此次医疗任务评估则是针对GPT-6 Astra进行的独立测试。

行政任务表现与部署建议

除了临床任务外,OpenAI还进行了医疗行政任务的评估。HealthAdminBench是由斯坦福大学研究团队开发的独立基准测试,涵盖预先授权、异议申请和医疗设备订购等内容。

结果显示:

  • GPT-6 Astra 在行政任务中获得94.3%的得分。
  • GPT-6 Luna 获得91.8%的得分。

这两项分数与99%的临床安全评分在评估对象和计算方式上均不相同。

为确保安全部署,医疗机构应限制代理可访问的程序和执行的操作,并设置需人工审核或批准的环节。OpenAI表示,系统将提供审计日志以留存操作记录。

在处理包含患者信息的任务时,机构必须签署包含合格服务的业务合作伙伴协议(BAA),并启用必要的安全和数据保留配置,以符合HIPAA合规要求。

在Ambience的演示中,当患者记录模糊不清时,代理会自动暂停并向医疗人员询问,在获得批准后才提交申请表。目前,医疗专业人员、开发者和医疗机构可通过ChatGPT for Healthcare、ChatGPT for Clinicians以及OpenAI API接口来使用计算机操控功能。

展开阅读全文
更多新闻