教宗警告「變態」深偽造影像

(SeaPRwire) –   教宗承認自己曾經成為人工智能偽造消息的受害者

教宗方濟各警告人工智能技術的潛在危險,表示這項快速發展的科技如果沒有「倫理規範」,可能導致「現實的扭曲」。

在周三發表的長篇信中,方濟各表示,人工智能的近期發展既「令人興奮又令人迷惘」,但也提出了人類與技術之間關係的更深層次問題。「我們如何保持完全人性,並以良好目的引導這場文化轉型?」他寫道。

」人工智能系統可以幫助消除無知,促進不同民族和不同世代之間的信息交流,「教宗寫道。「然而,同時它也可能成為『認知污染』的源頭,部分或完全虛假的敘事被認為和傳播為真實。」

教宗隨後提到了「長期存在的虛假消息問題」,指出自己曾成為「深度偽造」的受害者——這是通常用於假冒公眾人物的高度逼真的人工智能生成圖像或音頻。

」這些程序背後的模擬技術在某些特定領域可能有用,但當它扭曲我們與他人和現實的關係時就變得變態。」方濟各繼續說。

數字革命可能給我們帶來更大的自由,但如果它把我們困在所謂的『回音室』模型中,就不行。

去年,教宗在一張偽造圖像中被描繪成穿著。據報導,這張假圖像是使用基於人工智能的藝術工具Midjourney生成的,其自稱創作者。這張圖像在社交媒體上廣泛傳播,騙過許多用戶。

雖然人們應該「擱置對人工智能未來的災難預測」,但方濟各認為,這項技術最終可能「造成基於信息訪問的新階級」,並產生「新的剝削和不平等形式」。為避免最壞結果,他強調需要「了解、欣賞和規範可能導致擾人情景的工具」。

「像每一項人類智慧和技能的產品一樣,算法本身並不中立。因此,有必要事先行動,提出人工智能系統和應用的倫理規範模式,以預防使用系統可能產生的有害、歧視和社會不公正影響,並應對其濫用,」他說,呼籲制定一項「具約束力的國際條約」,規範人工智能的開發和使用。