美国AI聊天机器人用户中33%曾发送辱骂或侮辱性言论
调查数据显示,在美国AI聊天机器人的使用者样本中,有33%的人曾至少一次向聊天机器人发送过脏话或侮辱性表达。
AI搜索分析公司Searchable于11月2日公布的分析结果指出,该研究基于获得事前同意的美国面板用户数据。研究人员对2025年9月起一年内,用户向ChatGPT、Gemini和Claude三大聊天机器人发送的超过800万条消息进行了分析,并统计了每位用户在发送的消息中是否包含脏话、侮辱或贬低性内容。
结果显示,样本中有33%的用户曾对其中任一聊天机器人发送过脏话或侮辱性言论。这一数据并非仅针对Claude用户的单独统计。在所有输入单词中,每1万个词里含有脏话、侮辱或贬低性表达的词汇平均为19.1个。
引发负面表达的主要原因包括:未执行指令(占19.0%)、提供错误答案(占18.1%)以及误解请求(占14.7%)。在带有脏话或侮辱内容的投诉后,聊天机器人在下一次回复中解决问题的比例为24%;而在没有脏话的纠正请求中,这一比例则上升至35%。
Anthropic更新使用政策以应对极端虐待行为
Anthropic于10月8日公开了用户政策的修订说明,新条款自11月12日起正式生效。
新规主要针对那些在没有明确目的的情况下,反复以极端残忍方式对待模型的案例。一般的抱怨、反驳、涉及黑暗主题的创作活动,以及对模型进行的测试与研究,均不在适用范围内。
主要的执行手段是“结束对话”功能。Anthropic此前曾表示,其消费者版聊天中的Claude Opus 4和4.1版本已具备识别并终止罕见且极端的虐待性对话的能力。当多次尝试扭转对话方向失败,且继续 productive 对话的可能性消失时,系统将把此功能作为最后手段启用。即使对话被强制结束,用户仍可开始新的对话。
此外,用户政策还规定,对于疑似违规行为,平台可采取警告、降低使用速度、限制访问,甚至暂停或终止服务等措施。Anthropic表示,此次针对虐待行为的应对措施主要依赖于对话终止功能。

资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种