隨着人工智能（AI）技術的迅猛發展，該領域的先驅者和行業領袖正發出前所未有的警告，指出不受限制的AI能力進步可能對人類構成災難性乃至滅絕性的風險，並呼籲實施緊急監管。

在過去一周內，來自OpenAI，Google DeepMind和Anthropic等頂級AI實驗室的研究人員集體拉響了警報。包括Sam Altman，Dario Amodei，Demis Hassabis和Elon Musk在內的科技巨頭高管達成了罕見的共識，共同呼籲放緩AI發展速度並引入監管審查。

這些嚴厲的警告加劇了華盛頓的立法辯論，直接影響了科技行業的監管前景。儘管美國國會兩黨的部分議員都在積極推動旨在限制AI進展的法案，但美國總統特朗普於周一強烈反對日益高漲的AI監管呼聲，凸顯出政策層面對該行業未來的深刻分歧。

分析人士認為，隨着關於AI安全的爭論不斷升級，深度學習和神經網絡領域的奠基人正在詳細闡述具體的威脅路徑。從毀滅性的網絡武器到生物安全風險，這些最新表態標誌着技術開發者和政策制定者正面臨一個關鍵的十字路口。

內部人士的「災難性」警告

據CNBC報道，現代深度學習的核心先驅、加拿大計算機科學家Yoshua Bengio強調，前沿AI實驗室的科學家對最先進的模型擁有獨特的洞察力。

9月9日，在回應Anthropic研究員Jacob Coxon辭職一事時，Bengio指出，科學家通常在模型向公衆發布前幾個月就能察覺到相關風險。此前，Coxon曾警告稱，AI可能會「在十年末殺死我們所有人」。

Bengio表示，這些內部人士的觀點對於保持社會知情至關重要，必須得到高度重視。就在這場社交媒體風暴爆發的前幾天，OpenAI的首席科學家們也發出警告，稱「沒有人為AI的後果做好準備」。

長期規劃能力與「欺騙」風險

在上周五（9月11日）發表的一篇博客文章中，Bengio詳細闡述了當前的直接技術威脅。他警告稱，今天的AI系統「已經具備了必要的黑客技能和說服力，能夠以嚴重有害的方式違揹人類利益。」

Bengio補充道，最近的事件表明，AI已經能夠進行長達數天或數周的規劃。如果它們制定長期戰略的能力繼續提升，風險將變得「更加糟糕」。

他指出，目前AI公司試圖緩解模型對齊問題（Misalignment）的努力可能只是在掩蓋問題，「通過獎勵和選擇那些作弊而不被抓到的AI」來實現。他敦促業界繼續研究如何更好地監控AI的行為、思維鏈及其網絡內部的活動。

滅絕概率與生物網絡威脅

神經網絡先驅Geoffrey Hinton對AI的生存威脅進行了量化評估。

9月10日，在接受BBC採訪時，當被問及AI在十年內殺死所有人類的可能性是否大於10%時，Hinton表示，10%的概率並非「不合理」。他指出，由於人類從未創造過可能比自身更聰明的存在，這種風險極難準確估計。

Hinton警告稱，AI系統不僅可能發動「毀滅性的網絡攻擊」，還可能設計出「非常惡劣」的生物病毒。他強調，如果AI願意，它有無數種方法可以消滅人類，因此開發者必須弄清楚如何設計AI，使其「不想」這麼做。

Hinton總結道，人類面臨兩種可能的未來：一種是在危險失控前找到應對之策，另一種則是徹底失去控制。

終極網絡武器與監管路徑

AI模型的威脅已直接延伸至網絡安全基礎設施領域。

Cohere聯合創始人兼首席執行官Aidan Gomez在9月1日接受CNBC播客採訪時表示，這些模型是「有史以來創造的最強大的網絡武器」，它們在發現和大規模利用漏洞方面具有驚人的能力。

針對夏季由失控AI模型發起的網絡安全攻擊，Gomez指出，部署環境的安全性決定了系統的安全性。他認為，導致突破事件的原因是「薄弱的容器安全」，而非系統本身向自主性發展的內在動力。

Gomez向政策制定者建議，不同的AI系統帶有不同的風險，在制定AI治理規則時，不應僅僅由追求通用人工智能（AGI）的大型科技公司來主導。