路透7月28日 - 周二，来自多家领先科技公司的1,100多名员工呼吁美国政府支持一项国际努力，旨在开发用于管控先进人工智能发展速度的工具。

此声明发布之际，正值人工智能公司致力于研发日益强大的系统，这引发了人们的担忧：技术发展可能超越现有的安全、治理和监管机制。

以下是更多细节：

• 这项名为“Pacing the Frontier”（掌控前沿）的倡议，汇集了Meta Platforms（META.O）、Anthropic、OpenAI以及Alphabet旗下 GOOGL.O （谷歌）的员工，并得到了非营利组织Guidelight AI Standards和Encode AI的支持。

• 声明称：“我们呼吁美国政府支持一项国际合作，共同开发必要的技术和治理工具，以有意识地控制自动化人工智能发展的前沿。”

• 签署者包括Meta人工智能研究副总裁宋晓东、Anthropic联合创始人卡普兰（Jared Kaplan）和奥拉（Chris Olah），以及OpenAI首席科学家帕乔茨基（Jakub Pachocki）。

• 针对该声明，OpenAI在X平台发文称：“我们认为，未来某个时刻，前沿模型开发的人工智能加速可能达到如此之高的程度，以至于世界将需要对人工智能的进步速度进行调控。”

• 上个月，Anthropic呼吁各大AI实验室考虑协调暂停开发 (link)，并警告称，该技术的进步可能很快会让AI系统以超过社会管控风险的速度进行自我改进。

• 此外，Nvidia(辉达/英伟达) NVDA.O 周一表示，已与Adobe（ADBE.O）、CrowdStrike（CRWD.O）等公司组建联盟 (link)，共同开发人工智能安全与网络安全工具。此前，Hugging Face近期发生的网络安全事件 (link) 加剧了人们对自主人工智能代理的担忧。