回上列表
外部評估機構在試點審查發現OpenAI監控系統存在漏洞
2026/10/23 10:02
非牟利評估機構METR及Redwood Research周四(22日)表示，已對OpenAI的內部監控系統進行試點審查。此舉是該人工智能公司最新嘗試，以確定如何深化與第三方安全機構的合作。

METR及Redwood表示，今次演練旨在讓OpenAI測試向外部研究人員提供「深度存取權限」其內部基礎設施的實際情況。

根據聲明，於7月21日至8月11日期間，兩間機構各有一名員工可存取OpenAI的內部代碼庫、文件及部分技術人員。相關員工在現場期間受到陪同，並使用由OpenAI提供且「從未離開場地」的設備。

評估人員發現多項「新型漏洞」，包括一種可令代理程式阻止「數百項」近期操作被監控的利用方式。聲明指，OpenAI已告知METR及Redwood，已修補影響其生產安全防護的相關漏洞。

METR及Redwood表示，由於試點並非旨在「就OpenAI監控系統提供具透明度的公開資訊」，因此雙方同意僅發布高層次的公開文章說明結果。兩間機構已向OpenAI提交一份61頁的內部報告，並表示預期日後將公開更多有關未來演練的細節。

OpenAI發言人向CNBC表示：「今次合作建基於我們長期致力開創第三方測試新方法的承諾，我們正利用所得經驗加強安全防護，並為未來與獨立評估機構的合作制定方向。」

OpenAI行政總裁Sam Altman於9月承諾，將向獨立評估機構提供「類似員工的存取權限」。此前，Anthropic行政總裁Dario Amodei提出相關構想，作為其放慢人工智能發展步伐計劃的一部分。Anthropic其後宣布與埃森哲(ACN.US)、METR及SecureBio等機構達成協議。OpenAI本月初表示，正「積極完成與第三方安全評估機構的合約」。

對人工智能監管採取較寬鬆立場的美國總統特朗普，亦表態支持第三方評估。他在白宮提出的一項自願協議中，鼓勵人工智能公司「與獨立外部審計員或評估機構合作」。Anthropic的Amodei以及Alphabet(GOOGL.US)、Meta(META.US)、OpenAI、SpaceX(SPCX.US)及英偉達(NVDA.US)高層均有簽署該協議。

獨立評估機構過往在規模達數萬億美元的人工智能行業中相對低調。有專家向《CNBC》表示，目前仍存在有關這些機構將如何獲得資金，以及最終採取何種匯報架構等問題。

METR及Redwood周四表示，在為期三周的試點期間，兩間機構對OpenAI的內部失調監控系統進行壓力測試。在人工智能領域中，alignment是研究人員用以描述模型行為是否符合人類利益及價值觀的概念。

評估人員對截至7月21日及之前版本的監控系統進行評估，並指出OpenAI在演練期間持續擴展該系統。(da)~

阿思達克財經新聞
網址: www.aastocks.com