为AI要不要踩刹车吵翻天，科技巨头们是来真的吗？

Ce que rapporte la source

围绕AI是否应当放缓研发节奏的争论达到了前所未有的热度，除了几家人工智能公司接连发声外，越来越多的人下场站队， “AI末日论”的争论也从技术延伸至资本市场。最新的言论来自Meta CEO扎克伯格。他9月16日公开表示，将绝大部分算力用于服务人，而不是竞相追求AI递归自我改进，是确保安全开发这项技术的最佳方式之一。一场关于“AI末日论”的顶级争论事情的发酵始于Anthropic CEO达里奥·阿莫代伊9月12日发表《我们必须把控前沿AI的节奏》，他在文中写道，大约自今年夏天以来， AI构建下一代AI的“递归自我改进”能力不断增强，若不加约束，它可能超出人类理解和控制这些系统的能力。达里奥担心6-12个月内，这样的集群可能通过持续运行的僵尸网络接管整个互联网，甚至造成数千亿美元损失。他呼吁行业主动放慢前沿模型能力的提升速度。这一倡议罕见地得到了竞争对手的认同。包括OpenAI CEO山姆·奥特...