印度储备银行发布人工智能风险管理草案
印度储备银行(RBI)发布了指导方针草案,要求银行及其他受监管的金融机构建立风险管理架构,以应对与人工智能和机器学习模型相关的风险。这套拟议的风险管理体系将包括强制性紧急关闭机制,可在人工智能系统产生有害输出时立即将其关闭。
印度储备银行的考量
印度储备银行为降低这些人工智能风险而拟定的规则和指导方针,目前正面向公众征求意见,截止日期为7月24日。这些指导方针涵盖了银行运营中使用的所有模型,从基本的电子表格计算器到复杂的生成式人工智能系统。
银行需对其运营中的所有模型进行登记,在个体和企业层面定期评估风险,并在风险超出可接受阈值时采取纠正措施。纠正措施的形式可以包括加强控制,直至完全停止使用该模型,并且需要提供详细的风险报告来说明采取此类措施的原因。
该框架还涉及一个分为多个层级的风险分类系统。每个模型,无论其复杂程度如何,都必须被分配特定的风险等级,并接受人工监督。高风险模型需要获得董事会层面风险管理委员会的批准。
人工智能模型的紧急关闭机制与人工监督
银行需在每个人工智能模型的部署中建立覆盖、暂停和停用机制,以便在任何模型产生错误或有害结果时能够立即将其关闭。
印度储备银行还指出了一种所谓的“自动化偏差”风险,即银行员工可能在未进行任何独立判断的情况下,就认可人工智能的输出结果。针对面向客户的人工智能系统,指导方针要求银行告知客户他们正在与人工智能模型进行交互,并允许客户随时选择与真人沟通。
据路透社报道,根据草案中的提议,与客户或外部用户互动的生成式人工智能模型还将面临额外的网络安全要求。
第三方人工智能供应商受到严格审查
无论模型是内部开发还是从供应商处购买,银行仍需对其选择使用的任何人工智能模型承担全部责任。印度储备银行还表示,供应链集中是其关注点之一,并指出银行可能过度依赖少数几家全球人工智能供应商的风险。
所有第三方人工智能模型都需要进行独立验证。银行还必须为人工智能和机器学习模型定义阈值,确保能够用通俗的语言解释模型为何会产生特定的输出结果。
一段时间以来,印度储备银行一直在加强其技术治理立场。这份指导方针草案是印度央行首次针对整个金融业的人工智能模型风险,提出全面的、董事会级别的问责架构。

资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种