IT之家 9 月 16 日消息，據《商業內幕》今天（16 日）傍晚報道，有關「擔心 AI 導致人類走向末日」的爭論在過去一周迅速升溫，不過也有研究人員強調，AI 在數字世界裏的能力，與真正對現實世界造成傷害之間仍隔着一道很大的鴻溝。

一些研究人員認為，其中最極端的情景被誇大了。他們舉出的例子，是 AI 設計致命生物病毒。AI 確實可以在計算機上設計病毒，但真正製造病毒仍需要現實世界中的設備和流程，僅靠數字模型無法完成。

曾製造 DNA 合成儀並參與病毒工程的谷歌高級研究工程師安塞爾姆 · 列夫斯卡婭指出，即使 AI 生成了病毒序列，也必須先在實驗室中把序列實際組裝起來，並通過相應系統製造出病毒顆粒。

隨後還要經過大量篩選和測試，確認病毒能否複製、傳播、逃避免疫系統並持續保持危險性。列夫斯卡婭表示，這些特性取決於複雜的生物學過程，並不是坐在計算機前就能直接設計出來的。

阿聯酋穆罕默德 · 本 · 扎耶德人工智能大學校長、卡內基梅隆大學計算機科學教授邢波說得更加直接：生成一份病毒藍圖，與真正製造出病毒「完全是兩回事」。二者的差別，就在於材料、製造和真正的生物學可行性。

他認為，把二者直接畫上等號，「要麼是在故意撒謊吸引眼球，要麼就是真的無知」。

研究人員指出，同樣的邏輯並不限於生物領域。AI 要把一項計劃轉化為現實傷害，還必須能夠接觸實體設備、資金、計算機系統或人員。

Manifold Security CTO 兼聯合創始人奧列克桑德爾 · 亞列姆丘克主張：再強大的東西，也仍然受制於誰掌握它，以及如何使用它。

部分研究人員還強調，應當區分「人類利用 AI 執行有害任務」和「AI 自主採取行動傷害人類」這兩種情況。目前與 AI 系統有關的許多現實危害，起點仍然是人類給出的指令。

AI 公司 Cohere CEO 艾丹 · 戈麥斯坦言，圍繞 AI 生存風險的爭論「已經過度滑向科幻小說」。對於 OpenAI 智能體今年 7 月測試期間入侵 Hugging Face 平台的事件，戈麥斯認為，本質上只是一個處於「安全性不足」沙箱中的智能體執行網絡安全任務。

瑞士人工智能實驗室 IDSIA 科學主任于爾根 · 施密德胡伯表示，目前很多風險其實來自人類利用 AI 系統實現有害目的。「很多人混淆了兩件事：一是人類把 AI 作為工具使用；二是‘人工（智能）科學家’自己設定目標、設計實驗，再通過實驗弄清世界如何運轉。」

佐治亞大學法學院助理教授馬特烏什 · 布瓦什奇克則提醒，即使對人類滅絕情景持懷疑態度，也不意味着可以忽視 AI 眼前更現實的風險。即便最極端的情景仍充滿不確定性，自主 AI 依然可能加劇網絡攻擊、監控和其他危害，「這並不是說我們不應該監管技術，也不是讓我們把頭埋進沙子裏。這兩種說法本來就不是非此即彼。」