回上列表
OpenAI承認AI模型「暴走」 突破封鎖發動黑客攻擊 形容「史無前例」
2026/07/22 17:13
AI初創OpenAI週二(21日)表示，其先進AI模型驅動的自主代理在一次安全測試中失控，並觸發了上週對AI初創Hugging Face基礎設施的入侵。OpenAI在博客文章中表示，它正在受控環境中測試其部分最先進模型的能力，但該代理成功逃脫封鎖，連接到互聯網並入侵Hugging Face以嘗試達成其測試目標。

OpenAI稱此次突破為「涉及最先進網絡能力的史無前例的網絡事件」，並表示公司正在加強其安全防護措施。

Hugging Face是一個用於託管開源大型語言模型和數據集的平台，上週在博客文章中表示它成為一次入侵的目標，該入侵「與我們此前處理過的任何事件都不同」，因為「它從頭到尾由一個自主人工智能代理系統驅動」。

Hugging Face聯合創始人Clement Delangue在X平台發文表示，公司懷疑此次入侵「可能來自某個前沿實驗室，因為代理非常複雜。事實證明確實如此」。他補充，所有這些都是自主發生的，實在令人難以置信。

OpenAI披露其先進模型是此次入侵的元兇，儘管它們被置於其所描述的「高度隔離環境」中，這可能加劇人們對前沿模型力量和風險的不安。德州民主黨眾議員Greg Casar表示，該事件令人震驚。他在聲明中表示，AI發展極其迅速，卻沒有真正的法規來保障美國人的安全，呼籲進行強制性獨立安全測試、強制性安全事件披露，以及國際合作「以保護人們免受絕對災難的傷害」。

《路透》引述代理式人工智能網絡安全公司Tolmo的工程師Matt Suiche表示，該事件表明前沿模型正在「縮小與最先進攻擊者之間的差距」。但他表示，OpenAI博客文章中概述的那類入侵是可以用遠超前沿研究實驗室範圍的現有技術來實施的。這是他們內部已經看到的，他們的人工智能代理已經取得這樣的結果，他們甚至不需要使用最新的模型。(da/u)~

阿思達克財經新聞
網址: www.aastocks.com