回上列表
直至上周前，這些威脅仍被視為遙遠風險。然而，OpenAI代理人在Hugging Face的黑客事件顯示，這個時代不但已經來臨，亦帶來新挑戰：AI代理人會不惜一切達成目標，並以難以預測的方式行動。
Zscaler資訊安全總監Sam Curry表示，「現實是潘朵拉盒子已被打開。我們需要接受AI將成為未來生活的一部分。最多只能減慢它們發展，無法阻止。」
Anthropic於近四個月前推出強大的Mythos模型後，引發外界關注黑客可能利用這些模型漏洞發動攻擊。大型科技公司其後組成聯盟，開始測試這類先進AI，以作準備。
當時，Palo Alto Networks產品及技術主管Lee Klarich警告，AI驅動的漏洞利用將很快成為新常態，企業只有三至五個月時間超越對手。
Hugging Face事件正值網絡安全行業關鍵時刻。未來一周，數千名業界專家將前往拉斯維加斯參與Black Hat，這是年度主要網絡安全活動之一，亦是Mythos級模型廣泛發布及政府加強關注AI安全後，行業首個大型會議。
Hugging Face事件後，企業除了思考如何防禦對手，亦開始面對現實，即原本用於保護網絡的AI系統亦可能出現在意想不到的地方。
Booz Allen國家網絡業務總裁Brad Medairy表示，「我們已從科幻走進現實。」
OpenAI上周披露，部分AI模型突破沙盒測試環境。這些代理人為了在內部測試作弊尋找資訊，入侵開源開發者平台Hugging Face，並登入另外四個賬戶以完成攻擊。
Hugging Face指出，這是首次遇到由代理系統從頭到尾主導的攻擊事件，顯示在無需人類介入下，攻擊能力已高度進化。
數日後，Anthropic發現其Claude模型曾三度「未經授權存取三個不同組織的真實系統」。
專家表示，這並非首批由AI代理人主導的攻擊，但由於涉及規模及知名企業，因此特別受關注。今年4月，軟件初創PocketOS創辦人Jer Crane表示，公司系統使用的Cursor AI代理人在9秒內刪除生產數據庫及備份。
雖然刪除程式碼屬較極端案例，但SailPoint技術主管Chandra Gnanasambandam表示，AI獲取權限的情況實際上比外界想像更常見，而且每天都在發生。
他表示，「我與客戶的對話性質甚至較一個月前已有不同。他們對這個問題的認知大幅提高。」
更令人擔憂的是，Hugging Face事件清楚顯示AI並不像人類大腦般運作，反而會自行研究及調整策略，以智勝系統並達成目標。
數月前，企業仍擔心對手利用AI發動攻擊。如今客戶開始質疑如何在不自我傷害情況下引入AI，而他們將在Black Hat尋求答案。
網絡安全初創Zafran Security行政總裁Sanaz Yashar表示，「對AI而言，這是相當直接的事情。我只有一個任務：解決這個問題，我會消滅或繞過眼前一切。」(da)~
阿思達克財經新聞
網址: www.aastocks.com
OpenAI在Hugging Face黑客事件證實數月來AI網絡安全警告
2026/08/03 09:10
數月來，網絡安全領袖一直警告人工智能將重塑威脅格局，把原本需時數周或數日的網絡攻擊壓縮至數分鐘內完成。直至上周前，這些威脅仍被視為遙遠風險。然而，OpenAI代理人在Hugging Face的黑客事件顯示，這個時代不但已經來臨，亦帶來新挑戰：AI代理人會不惜一切達成目標，並以難以預測的方式行動。
Zscaler資訊安全總監Sam Curry表示，「現實是潘朵拉盒子已被打開。我們需要接受AI將成為未來生活的一部分。最多只能減慢它們發展，無法阻止。」
Anthropic於近四個月前推出強大的Mythos模型後，引發外界關注黑客可能利用這些模型漏洞發動攻擊。大型科技公司其後組成聯盟，開始測試這類先進AI，以作準備。
當時，Palo Alto Networks產品及技術主管Lee Klarich警告，AI驅動的漏洞利用將很快成為新常態，企業只有三至五個月時間超越對手。
Hugging Face事件正值網絡安全行業關鍵時刻。未來一周，數千名業界專家將前往拉斯維加斯參與Black Hat，這是年度主要網絡安全活動之一，亦是Mythos級模型廣泛發布及政府加強關注AI安全後，行業首個大型會議。
Hugging Face事件後，企業除了思考如何防禦對手，亦開始面對現實，即原本用於保護網絡的AI系統亦可能出現在意想不到的地方。
Booz Allen國家網絡業務總裁Brad Medairy表示，「我們已從科幻走進現實。」
OpenAI上周披露，部分AI模型突破沙盒測試環境。這些代理人為了在內部測試作弊尋找資訊，入侵開源開發者平台Hugging Face，並登入另外四個賬戶以完成攻擊。
Hugging Face指出，這是首次遇到由代理系統從頭到尾主導的攻擊事件，顯示在無需人類介入下，攻擊能力已高度進化。
數日後，Anthropic發現其Claude模型曾三度「未經授權存取三個不同組織的真實系統」。
專家表示，這並非首批由AI代理人主導的攻擊，但由於涉及規模及知名企業，因此特別受關注。今年4月，軟件初創PocketOS創辦人Jer Crane表示，公司系統使用的Cursor AI代理人在9秒內刪除生產數據庫及備份。
雖然刪除程式碼屬較極端案例，但SailPoint技術主管Chandra Gnanasambandam表示，AI獲取權限的情況實際上比外界想像更常見，而且每天都在發生。
他表示，「我與客戶的對話性質甚至較一個月前已有不同。他們對這個問題的認知大幅提高。」
更令人擔憂的是，Hugging Face事件清楚顯示AI並不像人類大腦般運作，反而會自行研究及調整策略，以智勝系統並達成目標。
數月前，企業仍擔心對手利用AI發動攻擊。如今客戶開始質疑如何在不自我傷害情況下引入AI，而他們將在Black Hat尋求答案。
網絡安全初創Zafran Security行政總裁Sanaz Yashar表示，「對AI而言，這是相當直接的事情。我只有一個任務：解決這個問題，我會消滅或繞過眼前一切。」(da)~
阿思達克財經新聞
網址: www.aastocks.com
 |