路透倫敦9月15日 - 如果尖端人工智能$(AI)$真的強大到足以毀滅人類，那麼它現在或許已經強大到難以被放慢發展步伐。隨着這項技術如今被捲入與國家安全相關的戰略軍備競賽，對其風險的警告反而可能加速各方爭奪主導地位的步伐，並帶來更大程度的政府介入。

政府如果通過所有權，而非監管或限制來加強對AI的控制，這或許正是令金融市場不安的部分原因。市場此前已預計這場驚人的投資熱潮至少會持續到2020年代結束。

一系列關於AI可能威脅人類生存的末日警告在周末達到了高潮。這些警告暗示，最先進的AI模型可能被用於開發生物武器、入侵金融系統，甚至控制整個互聯網。

這些警告始於上周，當時AI研究公司Anthropic一名即將離職的員工警告稱，這項新技術「可能在2020年代結束時毀滅我們所有人」。到了周日，Anthropic首席執行官阿莫迪(Dario Amodei)、OpenAI首席執行官奧爾特曼(Sam Altman)、SpaceX的馬斯克（Elon Musk）、蘋果AAPL.O的庫克（Tim Cook）等人似乎已形成共識，認為有必要放緩AI發展速度，加強人工干預與審查機制，並確保對AI智能體的自主程度設定明確的限制。微軟也發布了自己的AI行為準則草案。

對此存在兩種觀點。第一種認為，圍繞AI威力的種種聳人聽聞的警告不過是炒作，旨在為即將到來的首次公開發行（IPO）造勢。另一種觀點則認為，AI的發展在戰略層面已到了「大到不能失敗」的地步。如果經濟、金融乃至軍事安全受到威脅，各國政府別無選擇，只能繼續推進。

當然，也可能兩種觀點兼而有之。

從現實層面來看，奧爾特曼表示，備受期待的OpenAI IPO很可能推遲到明年，以便先處理相關問題。與此同時，Anthropic似乎仍計劃最早於下個月推進上市。

但對投資者而言，更大的問題在於，科技行業關於放緩AI發展速度的呼聲是否可信或真正可行。畢竟，類似的AI協議過去也曾被提出或簽署。市場關注的關鍵在於，這些呼籲是否會直接影響當前對AI基礎設施的狂熱投資、交易以及建設熱潮。

高盛預計，到2020年代末，全球AI累計支出規模可能達到全球國內生產總值（GDP）的5%。考慮到其中很大一部分資金來自債務和股權孖展，投資者或許會擔憂最終回報何時實現，尤其是在企業採用率和盈利影響的預測仍相對有限的情況下。

儘管該報告並未涉及「人類末日」論調及相關放緩AI發展的呼聲，但確實概述了AI相關資本支出停滯可能帶來的風險。研究顯示，今年和明年，資本支出預計將貢獻美國GDP增長的大約三分之一。與此同時，投資推動股市上漲帶來的家庭財富效應，還可能進一步放大這一貢獻。

**大到不能失敗，也大到不能慢下來？**

然而，除非出現AI發展可以被逆轉甚至停滯的跡象，否則所謂的「慢下來」措施不太可能從根本上改變AI資本支出和基礎設施建設熱潮的長期方向。

華盛頓和北京周一都明確了推進AI發展的政治必要性。這表明無論私營部門採取何種措施，各國政府都將希望把AI能力推進到極致。而推動它們這樣做的原因，恰恰是這些風險警告本身。

一個國家放慢腳步，往往意味着另一個國家迎頭趕上。在全球軍備競賽中，只有國際社會達成共識，任何既定的護欄機制、規則乃至監管措施才能真正發揮作用。自特朗普去年重新執政以來，美國政府蓄意且公開地削弱了各種形式的多邊主義，代之以競爭和以美國為主導的雙邊協議世界。

在這樣的環境下，要想就限制AI能力的硬性規則達成多邊協議，似乎並不現實。特朗普本人也明確表達了這一立場。

「針對AI和數據中心正上演一場病態陰謀，而對此唯一感到高興的就是中國，」特朗普在他的社交媒體網站上猛烈抨擊道。

與此同時，中國官方媒體《環球時報》發表社論稱，AI警告實質上是一出AI領域的「冷戰劇本」。

如果將AI競爭類比為軍備競賽，那麼值得注意的是，從第一枚核武器問世到1968年首份《核不擴散條約》簽署，中間相隔了23年。而自那以後，擁有核武器的國家數量也從聯合國安理會五個常任理事國擴大到九個。

AI或許未必僅僅關乎大規模殺傷性武器，它顯然也擁有諸多積極意義，例如加速疾病治療的研究，甚至推動清潔核能發展。但如果「相互確保的經濟和金融毀滅」被奉為圭臬，那麼各國政府勢必會竭力避免在這場競賽中落於人後。(完)