扎克伯格視頻通過AI“深度偽造” 社交網絡監管受操縱面臨挑戰

據CNET報道，剛剛出現在圖片分享網站Instagram上的視頻顯示，Facebook首席執行官馬克·扎克伯格(Mark Zuckerberg)似乎正就大數據的力發表簡短的演講。

視頻中的扎克伯格稱：“試想一下：一個人完全控制著數十億人被盜的數據，掌握著他們所有的秘密、生活和未來。這都要歸咎于Spectre漏洞。它讓我明白，誰控制了數據，誰就控制了未來。”

事實上，扎克伯格從未說過這些話。這段視頻是通過“深度偽造”(Deepfake)技術制作的，它利用人工智能(AI)創建視頻，并偽造目標沒有說過的話，這突顯出社交網絡在監管受操縱內容方面面臨的挑戰。

扎克伯格的這段虛假視頻也可能是對Facebook的一次考驗，此前該公司拒絕刪除美國眾議院議長南希·佩洛西(Nancy Pelosi)的虛假視頻。Facebook宣稱，該公司不會刪除假新聞，但會減少其在網站上的影響力，并顯示來自事實核查人員的信息。

Instagram發言人稱：“我們將像對待Instagram上所有錯誤信息一樣對待這些內容。如果第三方事實核查人員將其標記為虛假視頻，我們將從Instagram的推薦頁面(如Explore和hashtag頁面)過濾它。”

事實核查機構Lead Stories稱這段視頻為“藝術”，并在一篇帖子中表示，將這段視頻打上諷刺的標簽，這不會損害視頻的傳播。用戶將看到警告標簽，說明它不是真實的。

藝術家比爾·博斯特斯(Bill Poster)、丹尼爾·豪維(Daniel Howe)與Canny廣告公司合作制作了這段視頻。他們在Instagram上的帖子中稱，這段視頻是使用CannyAI的視頻對話替代(VDR)技術創建的。

創作者們稱，這段視頻使用了扎克伯格2017年關于俄羅斯干預美國大選的視頻片段。視頻的右側有哥倫比亞廣播公司(CBS)標志，標簽上寫著“扎克伯格：我們正在提高廣告透明度。”CBS發言人已經表示，該公司要求Facebook“撤下這一未經授權的假冒CBSN商標”。

Canny公司還曾與博斯特斯合作，制作了唐納德·特朗普(Donald Trump)總統和金·卡戴珊(Kim Kardashian)等人的假視頻。扎克伯格的虛假視頻是四天前發布的，博斯特斯沒有立即回復置評請求。

這已經不是有關扎克伯格的第一個虛假視頻了。早在2018年，電影制作人安德魯·歐雷克(Andrew Oleck)就曾在Facebook上發布了一段視頻，視頻中似乎是扎克伯格在說他要刪除社交網絡，這讓許多用戶誤以為是真的。

與此同時，美國議員們對在2020年美國總統大選中使用深度造假技術感到擔憂。美國眾議院情報委員會計劃于周四就被操縱媒體和“深度造假”問題舉行聽證會。