OpenAI 駁斥監督機構聲稱其最新模型發布違反加州新 AI 安全法

(SeaPRwire) –   OpenAI可能因發布其最新的程式編寫模型而違反了加州新的人工智慧安全法，此說法來自一個人工智慧監督組織。

若違規屬實，可能使該公司面臨數百萬美元的罰款，而此案也可能成為這項新法律條款的首次先例測試。

一位OpenAI發言人反駁了該監督組織的立場，告訴，該公司「對我們遵守前沿安全法律，包括SB 53，充滿信心」。

爭議的核心是OpenAI上週發布的最新程式編寫模型GPT-5.3-Codex。該模型是OpenAI重奪AI驅動程式編寫領先地位努力的一部分，根據OpenAI發布的基準測試數據，它在編碼任務上的表現明顯優於OpenAI自身及Anthropic等競爭對手的早期模型版本。然而，該模型也引發了前所未有的網路安全擔憂。

執行長Sam Altman表示，該模型在公司的「準備框架」（一個OpenAI用於模型發布的內部風險分類系統）中，被歸類為網路安全風險的最高等級。這意味著OpenAI基本上將該模型歸類為具備足夠的編碼能力，可能促成重大的網路危害，特別是在自動化或大規模使用的情況下。

人工智慧監督組織Midas Project聲稱，OpenAI在發布這款高風險新模型時，未能遵守其自身的安全承諾——這些承諾現在根據加州法律具有約束力。

於一月份生效的SB 53法案，要求主要人工智慧公司發布並遵守其自身的安全框架，詳細說明他們將如何防止其模型產生災難性風險——定義為導致超過50人死亡或10億美元財產損失的事件。該法案還禁止這些公司就合規性做出誤導性陳述。

OpenAI的「準備框架」包含針對高網路安全風險模型的額外安全措施，旨在防止AI失控並做出欺騙行為、破壞安全研究或隱藏其真實能力等事情。然而，根據Midas Project的說法，儘管OpenAI將該模型宣告為「高風險」，但在發布GPT-5.3-Codex之前並未實施這些安全措施。

OpenAI表示Midas Project對其「準備框架」中措辭的解讀是錯誤的，儘管該公司也承認框架中的措辭「不明確」，並試圖透過在與GPT-5.3-Codex一同發布的安全報告中的一份聲明來澄清該框架中措辭的意圖。在該安全報告中，OpenAI表示，僅當高網路風險「結合」長程自主性（即長時間獨立運作的能力）出現時，才需要額外的安全措施。由於該公司認為GPT-5.3-Codex缺乏這種自主性，因此他們表示不需要這些安全措施。

「GPT-5.3-Codex完成了我們完整的測試和治理流程，如公開的系統卡中所述，並且基於代理評估並經內部專家判斷（包括來自我們的安全諮詢小組）確認，未展現出長程自主能力，」該發言人說。然而，該公司也承認，目前缺乏明確的方法來評估模型的長程自主性，因此在努力開發更好評估方法的同時，依賴於其認為可以作為此指標代理的測試。

然而，一些安全研究人員對OpenAI的解讀提出異議。Encode的州事務副總裁兼總法律顧問Nathan Calvin在的一篇貼文中表示：「與其承認他們沒有遵循計劃或在發布前更新它，看起來OpenAI是在說標準不明確。從閱讀相關文件來看……我認為這並不不明確。」

Midas Project還聲稱，OpenAI無法明確證明該模型缺乏實施額外措施所需的自主性，因為該公司先前、較不先進的模型已經在自主任務完成的全球基準測試中名列前茅。該組織認為，即使規則不清楚，OpenAI也應該在發布模型之前將其澄清。

Midas Project創始人Tyler Johnston稱此潛在違規行為「尤其尷尬，因為SB 53設定的門檻非常低：基本上就是採納一個你自願選擇的安全計劃，並就其進行誠實溝通，根據需要進行修改，但不違反或撒謊」。

如果展開調查且指控屬實，SB 53允許對違規行為處以巨額罰款，可能高達數百萬美元，具體取決於違規的嚴重程度和持續時間。加州檢察長辦公室的一位代表告訴，該部門「致力於執行我們州的法律，包括那些為提高新興人工智慧領域透明度和安全性而制定的法律」。然而，他們表示該部門無法對潛在或正在進行的調查發表評論，甚至不能確認或否認。

更新於2月10日：本報導已更新，將OpenAI關於其相信遵守加州AI法律的聲明移至文章較前部分。標題也已更改，以明確表明OpenAI正在反駁監督組織的指控。此外，報導已更新，闡明OpenAI在GPT-5.3-Codex安全報告中的聲明旨在澄清該公司所稱其「準備框架」中不明確的措辭。