OpenAI與五角大樓的協議引發關於AI與大規模監控的新問題

(SeaPRwire) –   上周五，就在公開支持競爭對手 Anthropic 堅決拒絕五角大樓要求的數小時後，OpenAI 執行長 Sam Altman 宣布其公司已與五角大樓達成自己的協議。此前不久，美國政府採取了極不尋常的步驟，將 Anthropic 列為「供應鏈風險」。

儘管 OpenAI 表示其協議中達成了關於美國公民監視和致命自主武器的限制——這些是 Anthropic 希望納入合同但遭五角大樓拒絕的內容——但 OpenAI 的決定仍受到眾多 AI 研究人員和科技政策專家的批評。

爭議的核心之一是國內大規模監視。專家長期以來警告，先進 AI 能夠將零散、個別無害的數據——比如一個人的位置、財務狀況、搜索記錄——自動且大規模地彙整成任何人生活的完整圖像。Anthropic 執行長 Dario Amodeisurveillance 提出，監視對人們的「基本自由」構成嚴重且新穎的風險，且「法律尚未跟上 AI 快速成長的能力」。

儘管 OpenAI 在部落格文章中表示，其與五角大樓的協議規定其技術不會用於大規模國內監視或直接自主武器系統——這是 Anthropic 拒絕放棄的兩項嚴格限制——但一些法律和政策專家對法律中潛在的漏洞提出質疑。

爭議的部分原因在於，對美國人數據的大規模分析在當前美國法令下是合法的，但這種合法性模糊不清，即便它感覺與大規模監視無異。

「目前根據美國法律，政府當局向數據仲介和其他第三方購買商業可獲得的資訊是合法的，」民主與科技中心（Center for Democracy & Technology）政策副總裁 Samir Jain 表示，「如果購買大量數據並讓 AI 進行分析，最終可能透過該過程實質上對美國人進行大規模監視。這目前未受法律限制或禁止。」

OpenAI 表示，其「紅線」透過計畫搭建的技術系統以及與五角大樓合同中的條款來執行。根據該公司發布的部落格文章，合同允許美國國防部「在符合適用法律、作戰要求以及完善的安全與監督協議的情況下，為所有合法目的」使用該 AI，同時明確禁止對美國人私人資訊進行無限制監控。

問題在於，「合法」的定義可能改變。OpenAI 的合同參照現行法律和美國國防部政策，但這些政策未來可能修改。「他們發布的內容中沒有任何條款能阻止這些政策日後改變，」Jain 說。

一些批評者認為，現有的情報授權已允許 OpenAI 聲稱禁止的監視形式。Techdirt 創辦人 Mike Masnick，該協議「絕對允許國內監視」，並提及第 12333 號行政命令——這是一項長期有效的授權，允許情報機構收集美國境外的通訊，其中可能包含偶然獲取的美國人數據。

部分爭議圍繞著規範不同國安活動的美國法律特定條款展開。美國軍方行動通常受《美國聯邦法典》第 10 篇（Title 10 of the U.S. Federal Code）管轄，其中包括國防情報局（Defense Intelligence Agency）和美國網路司令部（U.S. Cyber Command）為支援軍事行動所開展的工作。但國防情報局（DIA）的部分工作受美國法律另一部分——《美國聯邦法典》第 50 篇（Title 50 of the U.S. Code）管轄，該篇通常規範祕密情報收集和祕密行動。中央情報局（Central Intelligence Agency）和國家安全局（National Security Agency）的工作通常也屬於第 50 篇管轄範圍。一些最敏感的第 50 篇活動，尤其是祕密行動，大多在幕後進行，並需要總統的批准。

上周末發布的部落格文章中，OpenAI 詳細介紹了其與五角大樓的協議，而據知名 OpenAI 研究人員 Noam Brown 在社群媒體上的貼文，該公司負責國家安全合作的主管 Katarina Mulligan 告訴 Brown，OpenAI 的合同不涵蓋情報界的第 50 篇工作——這是批評者擔憂的主要原因之一。OpenAI 的代表未立即回應.的評論請求。

但法律學者指出，第 10 篇與第 50 篇活動之間的區分越來越模糊。實際上，兩者可能極為相似，都可能涉及分析外國行為者的數據或追蹤模式。但這種重疊為 OpenAI 等公司帶來了灰色地帶：禁止第 50 篇工作的合同並不能自動阻止 DIA 等第 10 篇機構使用 AI 分析商業可獲得或未分類的數據集。

「如果他們說其系統不能用於任何第 50 篇活動，那麼這會縮小該 AI 系統的使用範圍，」Jain 說，「但這並不能解決問題。」