位於善/惡交接處的新科技──談深度偽造(deepfake)帶給民主的挑戰

Wednesday, May 29, 2019


 


四月上旬,前英國足球金童大衛貝克漢,在一支宣導對抗瘧疾的影片中(Malaria No More),以科技合成的深度偽造 Deepfake 聲音,說出九種語言,Deepfake 深度偽造科技目前仍是處於備受爭議的階段,貝克漢的這支宣傳片卻是將被視為 「惡」 的深度偽造拿來做「善」 的公共利益的宣傳。

 

在55秒的宣傳影片中,以影像合成技術讓貝克漢可以說九種語言,並結合其他人的聲音,從英國到中國,到奈及利亞,其中包括瘧疾的倖存者,以及醫護人員。

 

片中的訴求是瘧疾必須消失,數百萬人才能活命(Malaria must die, so millions can live),並呼籲大家參與今年十月舉行的全球基金再補足會議(Global Fund Replenishment Conference)。貝克漢在幕後花絮中表示,「讓科技可以結合到我們的生活與我們的世界中,我能夠成為代表許多不同人的一個聲音,是一件非常棒的事!」,貝克漢是英國對抗瘧疾組織的創始會員,也是聯合國兒童基金會的親善大使。

 

但是這支公益宣導短片卻也引起許多人的疑慮,電腦軟體可以製造深度偽造的影片,恐怕會被用在政治人物的影片,或為了欺騙新聞讀者而偽造的影像。被視為製造假新聞、惡搞與惡作劇的 Deepfake (Deep Learning and Fake)深度偽造,是運用人工智能(Artificial Intellectual)與機器學習(Machine Learning)的人體圖像合成技術,將圖像與影片重複堆疊,加到目標圖像與影片上,造成似假還真的效果。

 

網路上有愈來愈多的色情合成圖像與影片,惡搞名人明星或公眾人物的性愛影片,例如,某個好萊塢明星的臉,會出現成人色情電影中,或者某人為了報復前任,將前任男朋友或女朋友的臉,植入色情影片,然後在社群網站大肆分享。由於這項技術不是太難,而且電腦程式的原始碼隨手可得,使得 Deepfake 四處流竄,因此, Pornhub , Reddit 與 Twitter 網站已經明文禁止發佈 Deepfake 作品。

 

英國國會數位、文化、媒體與體育委員會主席 Damian Collins 提出警告, Deepfake 科技是對民主最嚴重的威脅,也是最大的挑戰之一,並呼籲臉書必須負起責任對付假新聞,因為線上的假訊息愈來愈複雜,已經造成民主危機。

 

美國參議員 Marco Rubio 也說,Deepfake的影片已經成為一種宣傳武器,例如,從未參與宣傳的公眾人物,會被置入影片中造成假訊息,或者從未說過的話,也被塞進嘴裡,如果這是在選舉投票前兩天發生,就很容易導致混淆與混亂。

 

連中國政府在四月中旬也提出草案,準備立法對付 Deepfake ,理由是 Deepfake 會侵犯個人的肖像權,傷害國家安全以及公共利益,因為仿真科技製造出來的影片圖案與聲音,已經讓人真假難辨,以假亂真了。

 

不過,於此同時,中國又被視為是最善於製造假訊息,假影像技術的領先者,例如,中國發展的生成對抗網絡(Generative Adversarial Networks,GANs),可以欺騙電腦,置入不存在的地標在地貌或衛星影像上,偽造景觀與圖片,即便作惡也在所不惜。

 

Synthesia 是美國的億萬富翁 Mark Cuban 投資研發的,在去年引起極大矚目的這項科技,儘管有政治人物警告, Synthesia 將嚴重破壞民主,但是英國政府機構Innovate UK仍舊花納稅人的錢,投資七萬英鎊在一間英國的研發公司上,該公司的目標在建立一個低成本,高技術的 3D 仿真人臉部的模型,尤其著重在講話時,嘴部變化的細節,希望人類演說的合成影像,能達到前所未有的真實感。

 

而 Synthesia 的創始人之一 Victor Riparbelli 則是強調,他們正重新改造影片的生產方式,他深信這種具有生產力的AI科技,將會為我們的生活帶來許多有創意的點子,創造出許多前所未有的經驗,更重要的是,他們非常明白這項科技可能造成的傷害,但他們過去只是發展與運用在媒體與娛樂工業的配音上。

 

此外,為貝克漢製造這一公益影片的製作團隊(R/GALondon),也釋出了他們如何製作的影片並表示,瘧疾是世界上最古老的疾病,每兩分鐘就有一個小孩因為瘧疾而死亡,人們卻仍舊對此事裝聾作啞,毫不聞問,所以他們決定用一個非常創新的方法做宣傳,結合設計與科技,讓瘧疾這個議題,重新成為大眾的焦點。

 

製作團隊認為他們只是在創意產業中盡責的專業工作者,盡其所能地讓人們可以坐下來傾聽,才會想出透過聲音的力量來傳達這個訊息。

 

Deepfake 在善與惡之間游移,從完美的配音與娛樂,惡搞模仿,到製造色情以及生產假新聞,該如何因應呢?

 

英國國會數位、文化、媒體與體育委員會,今年二月提出一份歷經十八個月的調查報告,〈不正確資訊與假新聞最終報告〉(Disinformation and ‘fake news’: final report),主要調查從國內到國外,人們在政治選舉中的判斷與選擇,如何受到線上訊息以及介入的影響?結果發現,惡意毀謗的力量確實想要造成混亂與混肴。宣傳並強化政治偏差的新聞,時有所聞並無新鮮,但透過科技傳播的新形式,將這種偏差更加放大,不斷地加強扭曲以及不正確的訊息,這已經不僅僅是假新聞了,而是在消滅基於事實的理性辯論的共同基礎,使得公共辯論變得粗糙,而這種粗魯行徑也被帶入競選過程中,對民主的運作造成莫大威脅。

 

報告並指出,增加使用 disinformation 一詞,意指在大眾傳播中散佈不正確消息,比起 fake news 假新聞與 misinformation 錯誤訊息,能夠更精準形容這種刻意造假的企圖與做法。報告中也要求數位領域必須透明化,例如,誰付錢?誰傳遞訊息給我們?科技公司如何運作?我們的個人資料如何被使用?因為社群網路平台上,有數不盡名人照片被惡意使用,散佈仇恨或報復的圖像與言論,影響選舉與民主運作。

 

圖片來源:Pixabay

 

英國國會議員 Damian Collins 也在 BBC 第四廣播頻道《今日》(Today)節目中強調,特別是在選舉過程中,謊言四處飛散,這已經不是公評或評論了,這是在惡意散布假訊息,刻意影響大眾意見,造成人們的仇恨與憤怒,他認為社群媒體像是臉書與其他社群網路平台,必須對平台內散佈的內容負起責任,國會也應該在法規中制定適當的倫理規範(code of ethnics),並設置獨立的監管人。

 

另外,透過立法工具,隱私權、個資保護,以及反壟斷等法案,監督這些科技公司是否遵行。這在法國與德國已有先例,法國法官要求社群媒體將假新聞下架,而德國也要求科技業者必須負責清理平台上的仇恨言論。

 

Deepfake 的技術日新月異,網路除了帶來自由言論與快速溝通能力之外,也帶來製造仇恨與混亂的扭曲與誤導能力。明年初,台灣的總統大選將屆,台灣被列為深受假新聞攻擊最多的國家,大眾媒體散播假情報,不正確訊息也多有所聞。在大選之前,立法與相關機關有無作為,讓我們的心智與社會,是因為科技而得到自由與負責任的民主政治,而不是反被科技綁架,傷害了民主政治。

 

 


作者為英國西敏寺大學新聞與大眾傳播博士,中央研究院歐美研究所博士後研究員

 

 

 

Please reload

相 關 文 章

Please reload

歡迎追蹤《思想坦克》臉書粉絲專頁,

每日為您推播最新文章消息!

  • Black Facebook Icon

THINK TANK, THINK FOR TAIWAN.