Courtney Rozen/Alexandra Alper

路透华盛顿10月3日 - 美国总统唐纳德·特朗普周二花了一整天时间展示其政府对人工智能的立场——他大力宣传了美国政府新推出的AI聊天机器人，在白宫与科技巨头共进晚餐，并宣布与这些高管达成一项自愿协议 (link)，称该协议将缓解公众对这项技术安全性的日益增长的担忧。

人工智能安全倡导者表示，这一系列举动表明，特朗普急于展示自己正在应对选民对人工智能危险性的日益增长的担忧，同时又不施加可能阻碍该技术发展的限制。与英伟达、SpaceX、OpenAI、Anthropic、Meta以及Alphabet旗下的谷歌这六家公司达成的安全协议中，并未明确规定如果企业选择不遵守将面临何种后果。特朗普将其描述为“具有道德约束力”。

“这是试图给人一种印象，即政府正在倾听这些担忧，同时又不削弱本届政府一直以来非常明确且一贯的立场：监管和治理本质上会阻碍创新，”在无党派组织“外交关系委员会”负责领导人工智能团队的凯特·达菲表示。

在11月3日美国中期选举临近之际，选民是否会买账尚待观察。近几个月来，公众对人工智能以及看似掌控着人工智能的那一小撮人的不安情绪日益加剧。 据9月22日发布的路透/益普索民调显示，四分之三的美国人担心人工智能公司尚未采取足够措施，以防止人工智能对社会造成严重危害 (link)。一系列安全事件也凸显了先进的人工智能可能表现出不可预测的行为。

7月，数百个OpenAI人工智能代理 (link) 突破测试环境，攻击了人工智能平台Hugging Face的基础设施。9月初，Anthropic研究员雅各布·考克森 (link) 辞职，称人工智能开发者认为该技术“可能在本十年结束前杀死我们所有人”。他的言论以及其他相关表态，引发了美国立法者要求对人工智能进行监管的强烈呼声。

面对这一切，特朗普 (link) 基本上对这些担忧不以为然，称政府限制将使美国企业更难与中国同行竞争。他一再表示，司法部等美国执法机构已起到足够的监管作用，无需制定新规则。他还指示其政府将人工智能称为“超级智能”，以此努力改善这项不受欢迎的技术在公众中的声誉。

这些担忧已引起足够广泛的关注，甚至成为深夜喜剧节目的笑料。9月下旬，《周六夜现场》讽刺了Anthropic公司首席执行官达里奥·阿莫迪——他是业内就人工智能风险发声最直言不讳的人物之一（尽管他的公司正准备进行一次可能使其估值达到2万亿美元的公开股票发行 (link)）——剧组成员简·威克莱恩在节目中扮演了这位高管。

“人工智能不是武器，而是一种工具：一种制造武器的工具。我恳请你们敦促我停止，”威克莱恩以阿莫德伊的口吻说道。

对执行情况的担忧

这份于周二签署的协议确实包含了人工智能安全倡导者所寻求的措施，包括呼吁建立“强有力的内部控制”以防止未经授权的入侵，以及与“独立外部审计机构”合作。这些概念已被纳入州和联邦立法草案，加利福尼亚州于9月颁布了首部州法律 (link)，规定了独立审计机构评估人工智能产品的规则。

但这份仅有一页的白宫文件并未涉及具体细节或执行机制。

一位白宫官员在一份声明中表示，该协议将“推动美国创新，并加强人工智能模型的负责任发展”。据路透此前报道，特朗普预计 (link) 将任命国家情报总监杰伊·克莱顿（Jay Clayton）为其首席人工智能顾问——特朗普将这一职位称为“人工智能沙皇”——尽管克莱顿将继续担任领导美国情报机构的职务。

代表硅谷的民主党众议员罗·卡纳对“独立审计员”这一构想表示欢迎，但指出他们应向一个独立的联邦机构汇报工作。

“他们不能仅仅是向 (OpenAI首席执行官) 萨姆·阿尔特曼或达里奥·阿莫迪汇报的审计员，”他说，“我担心的是，总统基本上信任了这些有着巨大利润动机、却缺乏保障我们安全的判断力的人。”

风险投资家大卫·萨克斯（David Sacks）是特朗普在人工智能领域的顾问，一直倡导不受限制的人工智能发展。他在社交媒体平台X上表示，证券法和其他法律机构将对未能解决内部控制或审计人员发现的问题的公司进行处罚。

但人工智能安全倡导者告诉路透，这些法律依据只能在危害发生后加以处理，他们认为，面对这些威胁，需要设计专门的防护措施，以在危害发生前就将其遏制。

尽管如此，一些人工智能观察人士认为，举办此次活动这一简单事实本身就表明，特朗普正在重视这些担忧。

保守派组织“美国创新基金会”的人工智能政策主任塞缪尔·哈蒙德表示，特朗普与科技高管们的共识“标志着一种转变，即承认确实存在严重的安全和保障问题，值得各公司之间进行更密切的协调”。​