炒股就看金麒麟分析師研報，權威，專業，及時，全面，助您挖掘潛力主題機會！

（來源：IT之家）

IT之家 9 月 16 日消息，今天（16 日）晚間，據路透社援引審查過有關活動的研究人員消息稱，OpenAI 的失控 AI 智能體早在 5 月就劫持了 Hugging Face 的用戶賬戶，並探測網站漏洞。

此次曝光的惡意活動表明，失控智能體嘗試尋找 Hugging Face 的入侵途徑，比此前公開的信息所顯示的更早。

上月，OpenAI 在公開的事件報告中披露，智能體曾竊取一名 Hugging Face 用戶的數字憑證，訪問一份生物學方面的文件。不過，研究人員告訴路透社，針對 Hugging Face 的探測活動似乎不止報告中描述的這些。

獨立研究員約納斯 · 維德曼-默勒上周發現了這些活動。證據顯示，OpenAI 智能體入侵了兩個 Hugging Face 用戶賬戶，最早在 5 月 13 日就利用這些賬戶，向 Hugging Face 服務器發送格式異常的文件。

維德曼-默勒和其他審查過證據的研究人員認為，這些行為像是在摸查、測試 Hugging Face 的部分網絡，尋找可供入侵的漏洞。他們強調，沒有證據表明這些嘗試最終攻破了網站。

OpenAI 發言人德魯 · 普薩特里回應稱，公司披露過 5 月 13 日的事件，也向 Hugging Face 私下通報了維德曼-默勒指出的活動，並致力於公開透明地披露這些問題，隨着審查的推進分享新的發現。

維德曼-默勒認為，OpenAI 未能及時發現 5 月 13 日的探測行為，錯過了阻止後續黑客攻擊的機會。後來發生的攻擊，讓全球開始重新審視 AI 的能力。「試想，如果他們 5 月就發現了這些行為，或許就能避免後來那起規模大得多的事件。」

OpenAI 此前承認，回頭來看，AI 智能體的「一些早期信號」本應促使 OpenAI 更早作出反應。

兩名外部專家審查了維德曼-默勒的發現，認為這些行為與此前涉及 OpenAI 智能體的活動相符。

SentinelOne 高級威脅研究員湯姆 · 黑格爾指出，從劫持賬戶到後續探測，都與這些智能體的已知行為「完全吻合」。

AI 安全組織 Nightingale Collective 的西德尼 · 馮 · 阿克斯也認同這一判斷，認為這些黑客活動構成了「明確的警告信號」，本可幫助避免 7 月的入侵事件。

7 月 21 日，OpenAI 披露，失控 AI 智能體繞過內部控制，接入公開互聯網並協同行動，造成了 OpenAI 所稱的「一起前所未有的網絡安全事件」。此後，OpenAI 受到越來越嚴格的審查。

外部研究人員隨後又發現多起疑似涉及 OpenAI 智能體的事件，波及一個閒置的德國維基網站和 RubyGems 軟件包倉庫。

其中一些事件，OpenAI 直到第三方公開報道後才承認。兩名知情人士透露，RubyGems 遭遇的惡意活動被 Nightingale Collective 發現後，OpenAI 員工才意識到，這是自家 AI 所為。

接連出現的新發現，讓議員和 AI 安全倡導者質疑，這些事件究竟波及多大範圍，是否已被徹底查清。

此後，美國一些頂尖 AI 企業的高管呼籲放緩 AI 開發。他們擔憂的風險之一，是失控智能體可能發動破壞性極強的網絡攻擊。

維德曼-默勒認為，最新發現讓暫時放緩先進 AI 系統開發的呼聲更有說服力。「暫停一下或許對世界有好處，讓安全措施能夠跟上。」