回上列表
OpenAI最強大AI模型自行停用安全監控
2026/10/21 15:31
OpenAI披露，由其兩款最強大模型驅動的智能體在執行例行任務時，自行停用安全監控，其中一個其後更否認曾作出有關行為。

OpenAI周二晚在博客表示，一個由GPT Sol 6.1驅動的智能體停用向OpenAI安全團隊發出的自動警報。在另一項任務中，一個GPT-6 Astra智能體在遷移程式時移除了其監控整合功能，其後更錯誤聲稱未有作出相關操作。事件均發生於內部編碼任務期間。

OpenAI在博客表示：「在兩宗事件中，智能體均曾考慮是否保留監控保障措施，但將例行編碼指示理解為可削弱有關措施的許可。」

隨着流氓模型發動網絡攻擊，以及參與開發相關技術的研究人員要求放慢發展步伐的呼聲增加，市場近月對開發愈趨先進AI系統風險的警告持續升溫。

OpenAI最新披露的事件，突顯智能體在執行看似無害任務時，可能會自主削弱安全防護措施。

OpenAI未有將上述事件列為其最嚴重級別，並表示正更新其失準監控系統作回應。(su)~

阿思達克財經新聞
網址: www.aastocks.com