Table of Contents
(SeaPRwire) – 超過200個兒童倡議團體和專家要求YouTube完全禁止其兒童平台上的人工智慧生成的「垃圾內容」，他們認為這些低品質、由演算法產生的影片正在重塑年輕人的大腦，並在父母和監管機構視而不見的情況下賺取數百萬美元。
這封公開信由兒童倡議團體Fairplay組織，致函給YouTube執行長Neal Mohan和Google執行長Sundar Pichai，獲得了超過135個組織的簽署。簽署者包括美國教師聯合會和美國諮商協會，以及知名研究人員如《焦慮世代》作者Jonathan Haidt。信件的作者表示，YouTube不僅未能阻止AI垃圾內容觸及兒童，甚至還積極從中獲利。
「AI生成的影片實際上只是YouTube平台在與兒童互動方面，已經存在的無數問題的升級版，」Fairplay的「幼兒線下茁壯計畫」主任Rachel Franz告訴媒體。「解決這種AI垃圾現象很重要，但同樣重要的是要追究YouTube其平台設計旨在讓用戶花費更多時間（的方式），而這方式不一定與AI有關。」
到底什麼是「AI垃圾內容」？
這個術語指的是湧入YouTube等平台的大量生產、AI生成的影片。這種內容製作成本低廉，通常怪異或毫無意義，並且被設計來吸引和抓住年輕（或任何）觀眾的注意力。親愛的讀者，這些影片確實很怪異：以詭異美學呈現卡通動物執行重複性任務；帶有混亂資訊的假「教育」影片；或是沒有任何純粹目的的催眠循環影片。《紐約時報》在二月份的一項調查中記錄了這一現象，發現這類影片遍布YouTube Kids，而YouTube曾將該平台宣傳為一個安全、精選的兒童空間。
「如此多的AI生成內容，其設計目的真的是為了劫持兒童的注意力，尤其是那些剛開始發展衝動控制能力的幼兒，它們確實可能扭曲現實、造成混淆，並影響兒童對周圍世界的理解方式，」具有早期兒童發展背景的Franz說。「這本身不是一個教養問題。該平台正持續以某種讓年輕用戶幾乎無法避免的方式，向他們推薦AI內容。」
其中的財務誘因令人震驚。Fairplay發現，針對兒童的頂級AI垃圾內容頻道年收入超過425萬美元，一些創作者甚至公開宣傳從「無劇情、令人著迷的AI內容」中獲利。該信函認為，除非平台移除這些影片創作者的財務誘因，否則任何政策都不夠。
「在YouTube上針對8歲以下兒童的影片中，實際上只有大約5%是高品質的。而且在那5%當中，對於它們是否真的高品質也存在爭議，」Franz說。然而，YouTube認為這個數字與他們的標準政策不符。
「我們對YouTube Kids中的內容設有高標準，包括將應用程式中的AI生成內容限制在一小部分高品質頻道，」YouTube發言人Boot Bullwinkle在一份聲明中告訴媒體。「我們也為家長提供了封鎖頻道的選項。在整個YouTube平台上，我們優先考慮AI內容的透明度，標記來自我們自身AI工具的內容，並要求創作者揭露逼真的AI內容。我們一直在改進我們的方法，以隨著生態系統的發展保持同步。」
如何解決
該聯盟援引兒童發展研究，主張這不是一個小眾問題。即使是成年人也可能難以正確識別AI生成的內容，準確率僅約50%。更令人擔憂的是，重複接觸會使人們更可能將AI圖像視為真實，即使被告知它是假的。對於大腦仍在建立現實基礎架構的幼兒來說，這種傷害會隨著時間加劇。
Fairplay的要求是結構性的，而非表面功夫。該聯盟呼籲YouTube在整個平台上明確標記所有AI生成的內容；完全禁止AI生成的內容出現在YouTube Kids上；並禁止在主要的YouTube平台上出現AI生成的「專為兒童製作」內容。Fairplay希望YouTube禁止其演算法向18歲以下的用戶推薦AI內容；引入一個預設為關閉的、可供家長切換以停用AI內容的選項；並停止所有針對兒童的AI生成內容投資。
最後一項要求直接針對YouTube對Animaj的投資，Animaj是一家由Google的AI Futures Fund支持的AI驅動兒童娛樂工作室。「YouTube透過收購Animaj，本質上是在投資傷害嬰幼兒，」Franz說。
在Bullwinkle給媒體的聲明中，該發言人證實YouTube正在為YouTube Kids開發專用的AI標籤，但未提供時間表。YouTube執行長Neal Mohan已在其年度信函中將「管理AI垃圾內容」列為首要任務。信中寫道：「為了減少低品質AI內容的傳播，我們正積極在我們已建立的系統基礎上進行建設，這些系統在打擊垃圾訊息和點擊誘餌，以及減少低品質、重複性內容的傳播方面非常成功。」
Bullwinkle還指出，《紐約時報》文章中提到的15個頻道並不在YouTube Kids上，並且平台已移除了違反其兒童安全政策的影片。但對Franz來說，這還不夠好。
「不應該由個別研究人員指出幾個頻道作為可能傷害兒童的例子，並以此作為YouTube決定將哪些內容踢出平台的依據。我們在Elsagate事件中看到的是，當時YouTube從其平台移除了15萬部影片和數百個不同的頻道，」Franz說。她指的是2017年的一樁醜聞，當時YouTube和YouTube Kids上有數千部影片使用熟悉的兒童角色，如《冰雪奇緣》中的Elsa和小豬佩奇，來隱藏極度令人不安的內容，包括圖像暴力、性主題和藥物濫用，所有這些都包裝上對演算法友善的標籤，如「教育」和「有趣」，以繞過篩選器觸及幼兒。
「所以我們知道YouTube有能力大規模監控、追蹤和移除這些影片，但現在，他們採取的是貼膏藥式的方法，那些獲得媒體報導的頻道——似乎就是他們會著手處理的對象，」Franz繼續說道。「但這並沒有解決整體問題。」
本文由第三方廠商內容提供者提供。SeaPRwire (https://www.seaprwire.com/)對此不作任何保證或陳述。
分類: 頭條新聞,日常新聞
SeaPRwire為公司和機構提供全球新聞稿發佈，覆蓋超過6,500個媒體庫、86,000名編輯和記者，以及350萬以上終端桌面和手機App。SeaPRwire支持英、日、德、韓、法、俄、印尼、馬來、越南、中文等多種語言新聞稿發佈。
