要点
Anthropic公司邀请约15位宗教思想家于三月底前往旧金山总部,讨论其人工智能模型Claude的道德框架。这些会议旨在完善Claude的“宪法”——即指导模型如何回应用户的书面原则。教皇利奥十四世在5月25日发布的首道教宗通谕中强调,人工智能必须被“解除武装”,并始终服从于人类尊严。
Anthropic招募宗教学者
约15位宗教思想家于三月底在该公司旧金山办公室会面,共同探讨一个如今正分裂人工智能行业的问题:当简单的规则已无法涵盖所有情况时,如何教会聊天机器人学会“善良”?邀请函以不同方式送达,有的通过电子邮件,有的则经由朋友的朋友转交。每位参与者都参与了一系列关于Claude及其道德框架的讨论——该框架旨在指导模型如何回应。目标并非让模型变得虔诚,而是借鉴数个世纪以来宗教对善恶的思辨成果。
这些思辨成果被融入Anthropic所谓的Claude“宪法”——一套用于塑造模型回应的书面原则,涵盖从悲伤到临终关怀等各类话题。公司训练Claude根据这些规则自我批判并修正回答,而非遵循固定的禁止列表。
专家质疑Claude的道德框架
圣克拉拉大学的技术伦理学家布莱恩·帕特里克·格林表示,这家实验室日益增长的力量已开始超越其内部智慧。领导“人工智能与信仰”咨询小组的格雷格·库特索纳回忆称,公司员工曾承认问题已变得过于庞大,无法独自解决。四月底的一次会议将对话范围扩大至犹太教、印度教、锡克教、摩门教和希腊正教的代表。
并非所有学者都相信这一方法能够解决更深层的问题——即谁来对这些公司负责。牛津大学伦理学家卡丽莎·维利兹质疑:公司的公开意图是否比商业模型所创造的激励因素更为重要?她警告称,围绕技术的宗教语言可能滋生出一种抗拒理性思考的部落式忠诚。批评者将此类举措斥为“伦理粉饰”,旨在借用道德可信度。格林则反驳道,任何伪装都会迅速被识破,且难以修复。
教皇利奥十四世于5月25日发布其首道教宗通谕,全文约4万词,呼吁对人工智能“解除武装”,并使其始终服从于人类尊严。Anthropic联合创始人克里斯托弗·奥拉出席了梵蒂冈的发布活动,这是该公司数月来与宗教领袖接触的最新举措。

资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种