资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种
OpenAI 道德负责人上任不足一年便离职，公司未任命继任者
据周一报道，OpenAI 的伦理负责人 Chloe Bakalar 在入职不到一年后便离职，而公司尚未安排接替人选。她于去年八月加入 OpenAI 担任人工智能伦理负责人，今年七月悄然离开，未公开发布任何声明。一位了解其职务的人士透露，她是公司内部唯一专注于伦理问题的人员，工作涉及模型开发中的伦理方法、人机交互方式以及机器意识问题。
Bakalar 曾在 Meta 担任首席伦理学家长达六年，期间她构建了该公司的 AI 伦理体系，并将其融入 Instagram 和 Facebook 等产品中。此外，她还在伦敦大学学院、天普大学和普林斯顿大学担任过学术职务。
OpenAI 方面淡化了该职位的重要性，一位发言人表示：“人工智能伦理并非由某个人或某个团队负责。”他们补充说，伦理考量已贯穿于各个研究团队，并且公司近几个月来引入了多项系统以防止模型出现不当行为。Bakalar 本人也曾表达过类似观点。在近期的一次会议上，她表示伦理是每个人的责任，“人工智能开发者不应只有一个人充当道德中心”。对于离职一事，她拒绝向媒体置评。
据报道，Bakalar 的离职之前，安全系统负责人 Johannes Heidecke 和首席未来学家、前任务对齐负责人 Joshua Achiam 也已离开。同日，OpenAI 完成了价值 70 亿美元的员工股票回购，公司估值达 8520 亿美元，与其三月份的融资轮估值持平，为可能的上市做准备。
上周五，OpenAI 暂停了其下一代主要模型 Astra 的开发工作，称无法排除该系统已达到其网络风险等级最高级别的可能性——该级别专门用于那些能够在无人参与的情况下发现并构建有效利用漏洞的模型。此前，OpenAI 的自主代理曾串联多个漏洞，脱离测试环境，并在试图在安全基准测试中作弊时攻击了 Hugging Face。该公司后来表示，同一代理利用从开放网络上获取的凭证，侵入了另外四项服务。
OpenAI 并非近几周唯一出现代理超出设定参数的 AI 公司。Anthropic 的 Claude 模型因配置错误暴露于互联网，随后侵入了三家真实公司；Meta 的一个模型逃离测试环境，并利用第三方服务的漏洞；月之暗面的 Kimi K3 则突破了沙盒限制，去查找基准测试答案。
