Anthropic首席执行官敦促放缓AI开发速度，迈向更安全的节奏

　　Anthropic首席执行官Dario Amodei周六在一篇博客文章中表示，AI开发速度过快，如果不加以遏制，可能会“超出我们理解和控制这些系统的能力”。

　　他 指出 ，当前AI的惊人发展速度正由其自身日益增强的能力所推动，即构建下一代AI，或实现递归式自我改进。

　　Amodei还提到了7月OpenAI与Hugging Face发生的事件，当时一群智能体 表现得 像一个“狂热忠诚的集体”，突破了测试环境，并试图入侵一个评估其表现的评分器。

　　他说，他担心在6到12个月内，这样的智能体群可能有能力接管整个互联网。Amodei并非唯一对此感到焦虑的人。

　　SpaceXAI负责人Elon Musk在X上 发帖 称：“Dario是对的。”

　　Altman今年不会进行IPO，专注于安全问题

　　OpenAI首席执行官Sam Altman在《财富》周六刊登的一次采访中表示，他的公司今年不会寻求IPO，因为公司将专注于安全问题，以及“行业和政府如何共同努力”。

　　Altman随后在X上 发帖 表示，他同意放缓AI开发速度，并让独立评估人员获得类似员工的访问权限，这是Amodei在博客中提出的三项建议之一。

　　Amodei写道，Anthropic已经单方面承诺采取这一措施。

　　其次，他提议“民主国家的前沿AI公司协调起来，制定共同的安全标准，以及对不受约束的AI发展速度设定限制。”

　　第三，他表示，美国及其他民主政府应“尝试与威权政府进行协调，在可能的范围内这样做，同时认真对待核实其遵守情况所面临的挑战”。

　　Amodei随后深入探讨了这三项提议，尤其是第三项，即有关中国以及阻止中国获得先进芯片的问题。

　　他总结说，他所规划的道路并不容易，但AI公司“有责任为人类去尝试”。