白宮誓言「迷因將持續發布」，但虛假資訊專家呼籲：請適可而止

(SeaPRwire) –   川普政府從未迴避在網路上分享人工智慧生成的圖像，並在白宮官方頻道上擁抱並推廣這些內容。

但一張經過編輯且極為逼真的人權律師被捕後淚流滿面的圖片，正引發新的警報，讓人擔憂政府如何模糊真實與虛假之間的界線。

國土安全部部長克莉絲蒂·諾姆的帳戶發布了李維·阿姆斯壯被捕的內容，隨後白宮官方帳戶發布了一張經過修改、顯示她哭泣的圖片。這張被篡改的圖片是自美國邊境巡邏隊員在明尼阿波利斯槍殺芮內·古德和亞歷克斯·普雷蒂以來，在政治光譜各派中廣泛分享的大量AI編輯圖像的一部分。

然而，白宮對人工智慧的使用令錯誤資訊專家感到困擾，他們擔心AI生成或編輯圖像的傳播會侵蝕公眾對真相的認知，並播下不信任的種子。

針對李維·阿姆斯壯被修改圖像的批評，白宮官員對該貼文加倍強硬，副通訊主任表示「迷因將持續下去」。白宮副新聞秘書艾碧蓋爾·傑克遜也分享了一則貼文。

康乃爾大學資訊科學教授大衛·蘭德表示，將修改過的圖像稱為迷因「顯然是試圖將其塑造成一個笑話或幽默貼文，就像他們之前的卡通圖一樣。這大概是為了讓他們免受發布被操縱媒體的批評。」他說，分享這張修改過的被捕圖像的目的，似乎比政府過去分享的內容「更加模糊不清」。

迷因一直帶有層次豐富的訊息，對理解它們的人來說既有趣又具資訊性，但對外人來說則難以理解。共和黨通訊顧問、網紅行銷公司Total Virality創辦人札克·亨利表示，AI增強或編輯的圖像只是白宮用來吸引川普支持者中那些花大量時間上網的族群的最新工具。

「那些重度上網的人會看到它，並立即認出它是一個迷因，」他說。「你的祖父母可能看到它但不理解這個迷因，但因為它看起來很真實，會導致他們去問自己的孩子或孫子。」

亨利表示，如果它能引發激烈反應那就更好了，這有助於它病毒式傳播。他總體上讚揚了白宮社群媒體團隊的工作。

西北大學教授、新聞媒體素養研究員麥可·A·斯派克斯表示，篡改圖像的創作和傳播，尤其是當它們由可信來源分享時，「固化了一種對正在發生之事的想法，而不是展示實際正在發生的事情。」

「政府應該是一個你可以信任其資訊的地方，你可以說它是準確的，因為他們有責任這樣做，」他說。「通過分享這類內容，並創造這類內容……它正在侵蝕信任——儘管我總是對『信任』這個詞有點懷疑——但我們理應對我們的聯邦政府能夠提供準確、經過驗證的資訊所抱持的信任。這是一個真正的損失，這真的讓我很擔心。」

斯派克斯說，他已經看到圍繞對新聞機構和高等教育不信任的「制度性危機」，並認為官方渠道的這種行為加劇了這些問題。

加州大學洛杉磯分校教授、《烏托邦》播客主持人拉梅什·斯里尼瓦桑表示，許多人現在正在質疑他們可以轉向何處尋求「可信的資訊」。「AI系統只會加劇、放大和加速這些缺乏信任、甚至缺乏對什麼可能被視為現實、真相或證據的理解的問題，」他說。

斯里尼瓦桑表示，他認為白宮和其他官員分享AI生成的內容，不僅邀請了普通民眾繼續發布類似內容，也授予了其他具有可信度和權力地位的人，例如政策制定者，分享未標記的合成內容的許可。他補充說，鑑於社群媒體平台傾向於「在演算法上優先處理」極端和陰謀論內容——而AI生成工具可以輕鬆創造這類內容——「我們正面臨著一大堆巨大的挑戰。」

與移民及海關執法局行動、抗議活動和與公民互動相關的AI生成影片已經在社群媒體上激增。在她於車內被ICE官員射殺後，幾段AI生成的影片開始流傳，內容是女性駕車逃離命令她們停下的ICE官員。還有許多關於移民突襲和人們對抗ICE官員的虛假影片在流傳，通常對他們大喊大叫或將食物扔到他們臉上。

專門研究媒體素養和揭穿病毒式AI影片的傑瑞米·卡拉斯科表示，這些影片大部分可能來自「互動農場」帳戶，即試圖通過使用熱門關鍵字和搜尋詞如ICE生成內容來從點擊中獲利。但他也表示，這些影片也獲得了反對ICE和DHS的人的觀看，他們可能將其視為「同人創作」，或進行「一廂情願的想法」，希望他們看到的是對這些組織及其官員的真正反擊。

儘管如此，卡拉斯科也認為大多數觀眾無法分辨他們觀看的是否是假的，並質疑他們是否會在「真正重要的時候，例如當風險高得多時，知道什麼是真實的或不是。」

即使存在明顯的AI生成跡象，例如街道路牌上有亂碼或其他明顯錯誤，也只有在「最佳情況」下，觀眾才會足夠精明或足夠注意地意識到AI的使用。

當然，這個問題不僅限於圍繞移民執法和抗議的新聞。本月早些時候，關於被推翻的委內瑞拉領導人被俘後偽造和歪曲的圖像在網路上爆炸性傳播。包括卡拉斯科在內的專家認為，AI生成的政治內容的傳播只會變得更加普遍。

卡拉斯科認為，廣泛實施一種將媒體來源資訊嵌入其元資料層的水印系統，可能是邁向解決方案的一步。內容來源與真實性聯盟已經開發了這樣一個系統，但卡拉斯科認為這至少還需要一年時間才能被廣泛採用。

「這將是一個永遠存在的問題了，」他說。「我認為人們不明白這有多糟糕。」

__

美聯社記者鳳凰城的強納森·J·庫珀和舊金山的芭芭拉·奧爾圖塔對本報導亦有貢獻。