Deepfake一詞於2017年問世,3年來的技術精進,讓deepfake門檻降低,只需要仿造對象的人物影音素材,就能製造出假影片。

2022.12.12更新
網紅「小玉」朱玉宸與助理莊炘睿利用Deepfake(人工智慧深偽技術),把高雄市議員黃捷、空服員的臉,「換臉」至色情片牟利,自109年7月起至110年10月共牟利新台幣1,300餘萬元,新北地院近期判賠受害者黃捷、空服員等各新台幣100萬元。
不只是黃捷,就連立法委員高嘉瑜、「雞排妹」鄭家純也是受害者。黃捷指出,感謝法官還給受害者公道,寒冬中給受害者一些安慰。不過更迫切的仍是數位性暴力的修法,包括懲處、防範及補救下架機制,但願不會再有人因為性影像的威脅和流傳而擔心受怕。

究竟「Deepfake」技術是如何做到以假亂真的換臉,下文帶您一探究竟。

愚人節當天,知名YouTuber小玉上傳了一則影片,畫面中顯示高雄市長韓國瑜身穿藍色襯衫,用誇大的言詞說著無俚頭的話。原來,這是小玉為了向民眾呼籲假新聞的風險,而利用Deepfake技術所製造出來的假影片。該影片很快就上了熱門影片排行,掀起網友熱議。

Deepfake,中文譯作「深假」或「深偽」,是一種透過人工智慧(AI)中的deep learning(深度學習)技術所創造出的fake(偽造)訊息。Deepfake技術可以用於影像及聲音,只需要仿造對象的人物影音素材,就能製造出唯妙唯肖的假影片。

即使Deepfake在台灣尚未被廣泛地應用,在西方國家卻已成為國際媒體頻繁討論的焦點。美國前總統歐巴馬、臉書創辦人馬克・祖克柏等名人的Deepfake影片近年來層出不窮,儼然成了有心人士在網路資訊戰上操弄風向的關鍵武器——可怕的是,不是工程師也可以辦得到。

小玉在影片中就表示:「(影片所使用的技術)是我花了150塊人民幣買下的AI換臉軟體, 只要花30分鐘的時間和一個配音員,我可以讓韓國瑜講出任何我想要他講的話 。」

的確,在Github等程式碼平台上,開源的Deepfake技術大幅降低應用門檻,讓人輕鬆下載就能使用的各式換臉App,要做出一個簡單的Deepfake影片並非難事。也因此,社群媒體如Facebook在今年1月祭出強硬措施,下架Deepfake影片,而Twitter也在2月時跟進。

令人擔心的是,從Deepfake衍生的問題,可不光只是假訊息。

逾9成明星A片都是假的,「深偽色情」一般人更難防

一項新科技所帶來的威脅,有可能會不斷演變、擴及不同領域。Deepfake一詞於2017年首次出現時,人們最擔心的,是它在色情影片上的應用。

根據AI新創Deeptrace於去年的報告顯示,截至目前,網路上仍有高達96%的Deepfake影片,是未經當事人許可下合成的色情影片。上傳這些色情影片的論壇累計超過1.34億次的瀏覽量,神力女超人蓋兒・加朵(Gal Gadot)及黑寡婦史嘉蕾・喬韓森(Scarlett Johansson)等上百位國際女星都是受害者。

明星或許還有名氣作為最後一層防護,但對一般人而言就不同了。社會新聞中,情侶分手後用「報復性色情影片」(Revenge Porn)要脅的事件屢見不鮮,但當報復性色情影片遇上Deepfake,恐怕將喚起人們心中最深層的恐懼。

018年,一位印度的調查記者拉娜・艾雅伯(Rana Ayyub)在揭露了一則關於克什米爾女孩性侵事件的兩天後,於Whatsapp上看到社群在瘋傳以她為主角的Deepfake色情影片。她的社群平台被不雅影片的截圖給洗版,而她卻不知道如何向別人說明,影片中的人並不是她。

加拿大起家的新媒體Vice就曾派旗下記者實際到網路上找人客製化Deepfake色情影片,結果只花了約900塊新台幣就得到了成品,顯示Deepfake的產製已長出了基礎的商業模式。

這就是Deepfake恐怖之處,只要找到門路,任何人都能用極高說服力,將你沒有說過的話、沒有做過的事給強壓在你身上。不過,既然Deepfake是以AI作為武器,以其人之道還治其人之身,「AI攻防戰」似乎是最主要的解套方式。

來自AI的黑暗威脅,假訊息攻防戰沒人能倖免

以查破社群平台假帳號起家的以色列新創Cyabra,近來就成功研發偵破Deepfake的AI技術,並以該技術在今年2月的美台科技挑戰賽中獲得亞軍。Cyabra全球業務副總裁阿賽夫・丹比(Assaf Danby)表示,透過他們所開發的AI演算法揪出Deepfake影片,準確率可達97%。

他們是怎麼做到的?他們研究影片的解析度及壓縮率等數值,並拿來分析人物臉部表情及肢體動作是否自然。

好比說,戴上眼鏡後人臉焦距的變化是否正確?嘴唇的動作與下巴及喉結肌肉的連動狀況有無異狀?「我們能夠一幀一幀的檢驗影片的真偽。」丹比說。

Cyabra今年的任務,本是與美國國務院合作,為2020年美國總統大選防堵假資訊。但自從新冠狀病毒(COVID-19,俗稱武漢肺炎)疫情爆發以來,查核疫情不實資訊就成了他們的主要目標。「3月底時我們就發現,有一個以國際藥廠Roche(羅氏)為名的影片,聲稱他們做出了疫苗。」

從色情影片威脅、到各種議題的資訊操作,隨著Deepfake技術日新月異,涉及的犯罪領域也不斷擴大。丹比呼籲,下一波Deepfake攻擊,可能將鎖定網路銀行的用戶。「愈來愈多用戶選擇透過視訊電話來開戶,而Deepfake影片也能偽造某人身分,在視訊電話中通過銀行的人臉辨識系統審查。」

說到底,技術畢竟是中性的。對丹比來說,AI是世界正式踏入「人類世」的證據。「這項技術將繼續改變人類的生活——無論是好是壞,」他說,「或許人類世所代表的,就是我們在好壞之間拉鋸,與AI共舞的時代。」

在這些真假難辨的資訊中,唯有一件事情是肯定的,那便是人們對於「真相」的理解將重新被形塑。

本文引用數位時代

By admin

發佈留言

發佈留言必須填寫的電子郵件地址不會公開。 必填欄位標示為 *