專家們警告說，這些圖片昭示出一個新現實：在重大新聞事件發生后，虛假圖片和視頻有可能充斥社交媒體，進一步混淆事實，因此亟須部署相關技術并制訂相關政策，對類似技術進行監管。

　　合成圖像真假難辨

　　據美國《財富》雜志網站報道，這些“特朗普被捕”的圖片由總部位于荷蘭的開源調查媒體“響鈴貓”網站的創辦人艾略特·希金斯生成。

　　當希金斯看到有關特朗普可能被捕的消息時，決定將其可視化。為此，他使用最新AI繪畫工具Midjourney制作了關于特朗普被捕的圖片。他表示，最新工具比之前的版本復雜得多，極大地改進了圖像的視覺效果。隨后他在推特上分享了合成結果：前總統被警察包圍的圖片，其中徽章做了模糊處理。據美國《華盛頓郵報》網站報道，僅兩天，希金斯發布的這條帖子被瀏覽了近500萬次。

　　人工智能專家表示，雖然處理并生成虛假圖片的技術并不新鮮，但該領域技術的進展速度以及人們對技術的濫用值得關注。數字內容分析公司Truepic的穆尼爾·易卜拉欣指出，“合成內容正在快速發展，真實和虛假內容之間的差距變得越來越難分辨”。

　　《財富》雜志指出，如今各種AI圖像生成工具變得觸手可及，它們可在用戶發出簡單指令后，迅速生成海量栩栩如生的圖片。例如，Midjourney這款文本到圖像模型現在可生成模仿新聞機構照片風格的圖像，如此一來，這些AI生成的圖片有望在混亂的新聞環境中“渾水摸魚”，混淆視聽。

　　關注錯誤信息傳播的華盛頓大學教授杰文·韋斯特說：“這的確會在危機期間增加‘噪音’。”

　　專業人士強調稱，大量制作虛假但看似可信的圖像的能力已有了巨大進步，而且很容易用于欺騙目的。很多時候，視覺信息會在沒有提供關鍵背景的情況下被快速轉發。事實上，一個關于“特朗普被捕”的虛假圖片帖子獲得的點贊數超過了7.9萬，“就好像這些照片是真的一樣”。

　　技術打擊“深度偽造”

　　希金斯認為，隨著合成圖像越來越難辨真假，對抗錯誤視覺信息的最佳方式是提高公眾的意識并加強這方面的教育，社交媒體公司可把重點放在開發能夠辨別AI生成圖像的新技術上，并將這種技術融入自己的平臺。

　　比如，推特出臺了相關政策，禁止用戶分享可能造成傷害的欺騙性和操縱性媒體內容，例如可能導致暴力、廣泛內亂或威脅個人隱私的推文。今年2月，推特推出了“社區筆記”功能，允許用戶在推文下方添加注釋，并且以長內容的形式進行解釋。有觀點認為，“社區筆記”或將能夠幫助推特成為更可信、讓更多人積極發言的平臺，并幫助減少假消息、誤導性內容的比例，以此吸引更多廣告投放。

　　另據《華盛頓郵報》報道，從2019年開始，主要科技公司加強了打擊“深度偽造”的政策。2020年，元宇宙平臺公司禁止用戶發布高度修改的視頻，但仍允許發布旨在模仿或諷刺的修改視頻。

　　不過，有專家表示，技術正在變得更加復雜，也更難監測。況且這些互聯網巨頭都沒有在如何發現這些問題，以及如何執行相關政策方面作出任何重大投資。

　　政策監管勢在必行

　　“特朗普被捕”虛假圖片在互聯網泛濫還提供了一個案例研究，表明目前缺乏企業標準或政府法規來解決使用AI制造和傳播謊言的問題。

　　紐約卡內基國際事務倫理委員會的研究人員阿瑟·霍蘭·米歇爾說，他擔心這個世界還沒有準備好迎接即將到來的鋪天蓋地的虛假信息。

　　專家們一致認為，特朗普的名氣使虛假圖片很容易被發現，但識別出普通人相關的虛假圖片可能困難重重，而且生成虛假圖片的技術一直在進步。從政策角度來看，亟待以立法形式對深度合成技術的應用進行規制。