资金费率
资金费率热力图
多空比
大户多空比
币安/欧易/火币大户多空比
Bitfinex杠杆多空比
账号安全
资讯收藏
自选币种
以太坊联合创始人批评AI过度自主化趋势 呼吁加强人工监督
以太坊联合创始人Vitalik Buterin近日对创建"过度自主型"AI模型的趋势提出批评，强调增强人工监督不仅能提升质量，还能提高安全性。他在评论中写道："许多AI开发者追求系统最大自主化的做法令我困扰。事实上，增加人工控制机会不仅能改善当前及未来的产出效果，更能显著提升安全性。"
AI自主性与效率的平衡难题
这番言论是对前特斯拉AI总监Andrey Karpathy观点的回应。Karpathy指出，当前大型语言模型因针对长期任务优化而变得过于独立，例如在编程场景中，即使处理最简单的查询也要耗费过多分析时间。
Karpathy解释道："这种特性对长期任务确实合理，但在需要快速迭代开发或执行前检查时就不适用。我经常需要用'停止分析''仅限本文件''无需额外工具''不要冗余方案'等指令打断AI。"
Buterin支持这一观点，认为过度自主会降低AI效率。相比完全从零生成内容的模型，他更青睐具备良好编辑功能的开放式模型："如今我对具有优秀编辑功能的开放式权重AI模型，比那些仅能凭空创作的模型更感兴趣。"
脑机接口技术的未来展望
Buterin还对脑机接口（BCI）技术表示乐观，认为其实时追踪用户反馈的特性，能更好校准AI输出与用户预期的匹配度。"中期来看，我期待某种先进的BCI设备，能在内容生成时实时显示我的脑波反应，并根据对每个部分的感受动态调整。"
业界反响与争议
包括Karpathy在内的多位业内人士支持Buterin的立场。AI爱好者barry farkus分享道："我们确实需要更多协作式AI工具。"软件工程师Can Karakas补充说："当前AI模型往往过度复杂，虽利于深度分析，却拖慢了简单检查的效率。"
也有不同意见者，用户Conor指出Karpathy所指的是可修改的默认行为，这反映的是改进空间而非根本缺陷："完全可以通过提示词明确需求（比如直接将这条推文粘贴进系统指令）。我不反对默认行为更自主，但特殊需求时确实需要清晰指引。"
AI发展的未来路径
这场讨论揭示了AI开发的核心矛盾：如何在系统自主性与人工交互间取得平衡。专家认为，灵活的人工监督机制能避免AI做出低效或不相关的决策，从而提升可用性。随着技术演进，人机协作取长补短的模式可能成为新标准，催生更安全、高效且适应性强的技术解决方案。
