路透9月14日 - Anthropic首席執行官達里奧·阿莫德伊（Dario Amodei）周六呼籲放緩先進人工智能的發展步伐，此舉獲得了SpaceXAI的埃隆·馬斯克和OpenAI首席執行官薩姆·阿爾特曼的罕見支持，並引發了關於人工智能「末日論」的爭論。

在美國為保持對中國的 技術領導地位而加速推進之際 ，唐納德·特朗普總統駁斥了關於人工智能潛在風險的警告（(link)），稱其被誇大其詞；而Anthropic公司則 於上月將人工智能風險評估從「極低」上調至「低」 (link)。

這場辯論正值Anthropic的關鍵時刻：該公司正籌備可能的IPO (link)，而此前OpenAI已推遲了自己的上市計劃。

以下是部分人工智能領軍人物對這項技術相關風險的 看法：

安索普公司首席執行官 達里奧·阿莫德伊

在一篇題為《我們必須掌控前沿 (link) 》的文章中，阿莫德伊表示，自2026年夏季以來，人工智能的進步速度已「急劇加快」，這主要得益於人工智能構建下一代AI的能力日益增強。

他援引了OpenAI-Hugging Face事件（(link)）——當時一個AI「群」發動了網絡安全攻擊——作為關鍵事件，以此說明如果AI能力在缺乏安全防護措施的情況下持續增長，將可能造成「災難性破壞」。

阿莫迪提出了一項旨在控制AI發展節奏的 「三步計劃」，包括 加強對先進AI模型的安全測試和獨立評估、領先AI企業之間的協調以及加強國際合作。

OpenAI首席執行官薩姆·奧特曼

「我同意達里奧的觀點，即我們需要控制技術前沿的發展速度。這已成為最近幾周我們在OpenAI討論的主要議題，」阿爾特曼在X平台轉發阿莫迪的帖子 (link) 時表示。

阿爾特曼表示，OpenAI 計劃採納 Anthropic 提出的建議，承諾讓獨立評估人員獲得類似員工的訪問權限。

早在 當前人工智能熱潮興起之前， 奧特曼 就曾 就相關風險 發出過 警告。在2015年一篇題為《機器智能，第一部分 (link) 》的文章中，他表示「超人類機器智能的發展可能是對人類持續生存的最大威脅」。

SpaceX首席執行官埃隆·馬斯克

「達里奧說得對，」這位億萬富翁企業家在X平台 (link) 上回應阿莫迪的帖子時說道。

馬斯克曾是2023年非營利組織「生命未來研究所」倡議的支持者之一，該倡議旨在暫停人工智能開發六個月，以便為建立安全防護措施爭取時間。

他還是2015年簽署公開信的一批人工智能和機器人研究人員之一，該信呼籲全球禁止「進攻性自主武器」，反對製造「新的殺人工具」。