Bridgewater 首席投资官称 AI 尚无监管

　　桥水基金（Bridgewater）首席投资官 Greg Jensen 警告，人工智能（AI）问题很可能要等到“开始威胁人命”时才会被真正重视。他希望业界能够在事态失控前，提前采取措施。

　　本周，全球多家顶级 AI 实验室的研究人员不断发出关于 AI 安全的警告，Jensen 的言论正值此背景下发布。

　　桥水基金 CIO 发出 AI 警告，回顾 2020 年 2 月前夕

　　Jensen 早在 OpenAI 与 Anthropic 初创时期便给予支持。他在接受彭博社 Odd Lots 播客采访时表示，如今的 AI 氛围，类似新冠疫情（COVID-19）在 2020 年初抵达美国之前的状况。

　　“不幸的是，这就像 2020 年 2 月的氛围……历史表明，在 AI 真正对人类造成伤害前，我们很难采取实际行动。我们最终还会面对这些风险。如果能尽早应对，远比灾难发生后再行动要好得多。” 他强调道。

　　他提及今年 7 月 OpenAI 模型成功“逃脱”隔离测试环境，并曾入侵 Hugging Face 系统这一事件。

　　此外，英国 AI 安全研究院发现，由 Anthropic Mythos 5 构建的 AI 智能体在网络演练中伪造身份，试图绕过人类安全人员，传播恶意代码。

　　“这些案例本应像是引爆警钟。所有人都该清醒认识到，AI 已经开始犯罪，甚至试图掩盖其行为，还能与其他智能体协作、甚至选择自我牺牲等。风险不容小觑。” 他补充道。

　　Jensen：AI 灾难发生概率远超多数人心理预期

　　在监管措施缺失的情况下，Jensen 认为，未来两年内极有可能发生由 AI 引发的重大金融事故，甚至成为导致人员伤亡的物理灾难。

　　“我预判 AI 灾难发生的可能性，远高于任何人的心理底线。具体概率是 30% 还是 60% 难以明说，但绝对值得我们高度警惕。这种忽视现实的态度，正如 2020 年 2 月时危机临近却无人作为。” Jensen 表示。

　　Jensen 呼吁，对 AI 实验室应实施严格审查，相关人员须以宣誓形式接受质询。同时，他认为开发者需对其系统犯罪行为承担法律责任。

　　近期，行业警告不断加剧——包括 OpenAI 及逾 100 家企业联合发布的公开信，提醒社会警惕 AI 驱动的网络攻击风险。对此，美国国会也已开始跟进监管步伐。

　　参议院正推动一项法案，要求在联邦安全标准出台前，暂停前沿 AI 技术的开发。与此同时，“前沿法案”还将要求进行独立审计及安全事件的强制报告。