令人信服的“深度偽造”，只為引你會(huì)心一笑？

利維坦按：

我個(gè)人覺(jué)得沃爾特·謝勒對(duì)于“深度偽造”的未來(lái)還是過(guò)于樂(lè)觀了，各種移花接木式的明星換臉有時(shí)候可不僅僅是娛樂(lè)和惡搞，她們往往也會(huì)成為色情網(wǎng)站的重點(diǎn)技術(shù)處理對(duì)象。不僅如此，看看最近的以哈戰(zhàn)爭(zhēng)，各種惡意煽動(dòng)仇恨的虛假信息漫天飛，尤其是那些偽造的圖片，試圖通過(guò)視覺(jué)上的刺激來(lái)挑動(dòng)人們的憤怒情緒——這無(wú)疑分化了公眾輿論，煽起了暴力的火焰。

在互聯(lián)網(wǎng)上，我們?nèi)绾沃朗裁词钦鎸?shí)的？2023年春天，一張?jiān)谖褰谴髽歉浇谋ㄕ掌ㄏ聢D）引起了華爾街的輕微恐慌，這是首次發(fā)生的人工智能生成圖像通過(guò)互聯(lián)網(wǎng)傳播影響市場(chǎng)的案例。

雖然這個(gè)惡作劇在受到審查后消失了，但對(duì)許多人來(lái)說(shuō)，它似乎預(yù)示著更糟糕的事情即將發(fā)生。

這張假照片顯示，弗吉尼亞州美國(guó)軍事總部五角大樓附近冒出大量濃煙。? IAPONOMARENKO/TWITTER

不過(guò)，當(dāng)圣母大學(xué)（the University of Notre Dame）計(jì)算機(jī)科學(xué)家、媒體取證專家沃爾特·謝勒（Walter Scheirer）讓他的學(xué)生在互聯(lián)網(wǎng)上搜尋人工智能篡改視頻的例子時(shí)，他們帶回來(lái)的結(jié)果讓他感到驚訝。他說(shuō)，這就像是“無(wú)盡的迷因”。

到目前為止，大多數(shù)令人信服的“深度偽造”（Deepfake）似乎都只是為了引起你的會(huì)心一笑，而非引發(fā)經(jīng)濟(jì)崩潰：假冒的湯姆·克魯斯談?wù)撓词?；尼古拉斯·凱奇出演所有電影；拜登、川普和奧巴馬一起玩《使命召喚》。

謝勒得出結(jié)論，互聯(lián)網(wǎng)確實(shí)充斥著虛假內(nèi)容，但其中絕大多數(shù)似乎旨在建立聯(lián)系，而不是破壞與毀滅。

沃爾特·謝勒。? Glass Darkly Films

謝勒和互聯(lián)網(wǎng)是一起成長(zhǎng)的。作為一名較年長(zhǎng)的千禧一代，他將自己的第一臺(tái)計(jì)算機(jī)描述為“特別原始”的——一臺(tái)連接到家庭電視機(jī)的德州儀器機(jī)頂盒。中學(xué)時(shí)，他開(kāi)始流連于Internet Relay Chat黑客頻道，與早期計(jì)算機(jī)地下世界的賽博朋克叛逆者進(jìn)行虛擬交流。他說(shuō)，即使在那個(gè)時(shí)候，黑客們也喜歡將科學(xué)事實(shí)和虛構(gòu)結(jié)合在一起，僅僅是出于喜歡炫技而已。

在他的新書(shū)《互聯(lián)網(wǎng)上的虛假事物史》（A History of Fake Things on the Internet）中，謝勒認(rèn)為今天的“深偽”最好以這種精神來(lái)理解，即，從許多方面來(lái)看，它們是18世紀(jì)諷刺、維多利亞時(shí)代靈異攝影術(shù)等前互聯(lián)網(wǎng)時(shí)代戲仿與想象傳統(tǒng)的數(shù)字后代。

在最近的一次談話中，謝勒告訴我，他逐漸認(rèn)識(shí)到，互聯(lián)網(wǎng)上虛假信息的盛行，并不是對(duì)公民規(guī)范的徹底、可怕的背離，而是我們?nèi)祟?lèi)創(chuàng)造神話和講故事動(dòng)力的完全自然演變。

-無(wú)害虛假信息和危險(xiǎn)虛假信息，該如何界定呢？-

在寫(xiě)這本書(shū)的過(guò)程中，我更加欣賞的一件事就是，戲仿和諷刺在人類(lèi)溝通中的價(jià)值。這是一種用來(lái)進(jìn)行社會(huì)批判的非常古老的形式，經(jīng)常被相當(dāng)有策略地使用。早在互聯(lián)網(wǎng)出現(xiàn)之前，一個(gè)非常著名的例子是1729年喬納森·斯威夫特（Jonathan Swift）寫(xiě)的名為《一個(gè)小小的建議》（A Modest Proposal）的散文。

文章談?wù)撽P(guān)于同類(lèi)相食和吃嬰兒，這確實(shí)令人不安，但斯威夫特實(shí)際上并不是在談?wù)撏?lèi)相食，他試圖表達(dá)的是對(duì)愛(ài)爾蘭貧困狀況進(jìn)行社會(huì)批判（該文提出下述建議：“將愛(ài)爾蘭十二萬(wàn)嬰兒中的十萬(wàn)嬰兒提供給富家人士當(dāng)成桌上佳肴”，認(rèn)為這樣做可以讓貧苦父母紓緩經(jīng)濟(jì)困難，獲得解脫。編者注）。如果你批判性地、深入地閱讀，你會(huì)即刻建立起某種聯(lián)系，你可能會(huì)以一種黑暗的方式找到它的主旨趣味所在——這當(dāng)然也是斯威夫特的本意。

? Audible

但多年來(lái)，這篇散文經(jīng)常被誤解。偶爾會(huì)有公開(kāi)朗讀的場(chǎng)合，即使在今天，人們也會(huì)失去理智——天吶，怎么可能有人提倡食用嬰兒呢？——這顯然沒(méi)有抓住重點(diǎn)。

互聯(lián)網(wǎng)上的很多內(nèi)容就是這樣。它充斥著顛覆性的內(nèi)容，需要你思考一下才能理解其信息。問(wèn)題是，社交媒體的信息流特性往往導(dǎo)致我們停留在信息的表面層次上，這樣就會(huì)引起一片嘩然。

-那么深度造假呢？?jī)?nèi)容看起來(lái)和聽(tīng)起來(lái)都如此真實(shí)，很難辨認(rèn)真假，更不用說(shuō)反駁了。對(duì)這些的擔(dān)憂是否也被夸大了？

-是的，這是最近才出現(xiàn)的一個(gè)問(wèn)題。深偽于2017年首次出現(xiàn)在互聯(lián)網(wǎng)上，因此如今的它并不是一項(xiàng)特別新的技術(shù)。人們非常擔(dān)心視頻出現(xiàn)在政治背景下，可能會(huì)改變選舉進(jìn)程或?qū)е抡伪┝?。但是，這些都沒(méi)有發(fā)生。

? Michigan Radio

-你在書(shū)中寫(xiě)了很多關(guān)于上世紀(jì)90年代和21世紀(jì)初計(jì)算機(jī)地下活動(dòng)的內(nèi)容。從你的敘述中可以看出，即使在那個(gè)時(shí)候，人們也在網(wǎng)絡(luò)上模糊了事實(shí)和虛構(gòu)間的界限。黑客們?cè)诨ハ喾窒砑夹g(shù)信息的同時(shí)，還分享各種謠言和笑話。你那時(shí)還是個(gè)十幾歲的少年，是如何被吸引進(jìn)這個(gè)世界的？

-我一直對(duì)計(jì)算機(jī)非常感興趣，但在初中時(shí)，我的一個(gè)朋友找到了一些黑客的文本文件，基本上是黑客們制作的創(chuàng)意寫(xiě)作雜志，他說(shuō)：“看，這些東西真的超級(jí)有趣！” 那時(shí)我就意識(shí)到，還有這樣一個(gè)完全不同的計(jì)算機(jī)世界的存在。

-這些文件里面有什么？有諸如“猜猜政府到底在做什么？”之類(lèi)的陰謀信息嗎？

-會(huì)涉及這些內(nèi)容，但還有更多其他內(nèi)容，比如有大量的視頻游戲作弊代碼。但隨后它會(huì)更深入，比如，你聽(tīng)說(shuō)過(guò)企業(yè)和政府使用的Unix操作系統(tǒng)嗎？好吧，這里有如何訪問(wèn)它、如何使用它的方法。然后，就是創(chuàng)意寫(xiě)作部分。除了經(jīng)典的陰謀論故事外，還有很多關(guān)于不明飛行物和超自然的內(nèi)容，這些內(nèi)容不可能是真的，但足夠有趣，讓你想繼續(xù)閱讀。我認(rèn)為將所有這些想法融合在一起真是太酷了。

? Wikipedia

-你自己參與過(guò)傳奇的黑客行動(dòng)嗎？有什么你愿意透露的嗎？

-我要把所有的功勞都?xì)w功于我書(shū)中提到的那些黑客。我當(dāng)時(shí)年紀(jì)還小。

-因?yàn)橛幸粋€(gè)故事我很好奇。你寫(xiě)到了一個(gè)在2012年出現(xiàn)在網(wǎng)上的大型文本文件，似乎記錄了多年來(lái)對(duì)主要公司和政府目標(biāo)進(jìn)行的非常成功的攻擊——深度滲透，這種攻擊可能會(huì)讓人入獄。你評(píng)論說(shuō)，直到今天，沒(méi)有人知道誰(shuí)是幕后黑手。你的措辭讓我想知道是否是你本人。

-無(wú)可奉告。

-（笑）所以，你顯然認(rèn)同無(wú)政府主義者“互聯(lián)網(wǎng)渴望自由”的思想。但今天你在圣母大學(xué)教書(shū)，你的個(gè)人簡(jiǎn)介說(shuō)你“倡導(dǎo)受天主教社會(huì)教義啟發(fā)的技術(shù)發(fā)展”，我有點(diǎn)難以將這兩者聯(lián)系在一起：反權(quán)威的黑客，天主教社會(huì)思想家。你能解釋一下嗎？

-它們之間的聯(lián)系是關(guān)于社群的觀念。黑客是一個(gè)非常有趣的亞文化群體——一群第一次彼此相連并創(chuàng)造了持久事物的人。他們創(chuàng)建了計(jì)算機(jī)安全行業(yè)。而天主教社會(huì)教義是關(guān)于：我們?nèi)绾卧谏鐓^(qū)意義上茁壯成長(zhǎng)？如何建立某種共同利益的概念？

這里有一個(gè)重要的聯(lián)系：如果你把時(shí)間倒轉(zhuǎn)，看看我們今天構(gòu)建互聯(lián)網(wǎng)的想法，很多想法都來(lái)自上世紀(jì)60年代著名的媒體理論家馬歇爾·麥克盧漢（Marshall McLuhan）。他與反主流文化運(yùn)動(dòng)有著緊密聯(lián)系，但許多人不知道的一個(gè)事實(shí)是，他是一位虔誠(chéng)的天主教徒。

馬歇爾·麥克盧漢（1911-1980），加拿大哲學(xué)家及教育家，曾在大學(xué)教授英國(guó)文學(xué)、文學(xué)批判及傳播理論，也是現(xiàn)代傳播理論的奠基者，其觀點(diǎn)深遠(yuǎn)影響人類(lèi)對(duì)媒體的認(rèn)知。在沒(méi)有“互聯(lián)網(wǎng)”這個(gè)字出現(xiàn)時(shí)，他已預(yù)示互聯(lián)網(wǎng)的誕生，“地球村”一詞正是由他首先采納。? The Paris Review

-這我真不知道。

-他皈依了天主教，并相信天主教信仰是最終的媒體系統(tǒng)。因?yàn)槟憧偸窃诮涣?，?duì)吧？與圣人，與已故的人，當(dāng)然還有上帝。通過(guò)祈禱和冥想——這些靈性形式——結(jié)合在一起，看到這種想法如何滲透到他對(duì)媒體的思考中，真是令人著迷。他著迷于通過(guò)信息網(wǎng)絡(luò)將整個(gè)地球團(tuán)結(jié)起來(lái)的想法。

-他不是寫(xiě)過(guò)最后我們會(huì)變成信息嗎？那聽(tīng)起來(lái)像是某種網(wǎng)絡(luò)化的圣餐。

完全正確。當(dāng)你考慮到技術(shù)時(shí)，它有點(diǎn)神秘，對(duì)吧？我不認(rèn)為這完全是一個(gè)瘋狂的想法。很多人都在用這種方式討論新興技術(shù)，尤其是當(dāng)他們?cè)噲D理解人工智能時(shí)——比如，它是否具備某種精神層面？我認(rèn)為這其中是有原因的。所有這些技術(shù)都是人類(lèi)創(chuàng)造的形式，在基督教中，我們被要求與上帝共同創(chuàng)造；他賦予了我們這種創(chuàng)造的能力。

-所以你認(rèn)為互聯(lián)網(wǎng)是人類(lèi)集體想象的延伸。與其將其看作是市場(chǎng)驅(qū)動(dòng)的技術(shù)，你更原因?qū)⑵湟曌鲃?chuàng)造神話的工具。

你談到了人類(lèi)學(xué)家克洛德·列維-斯特勞斯（Claude Lévi-Strauss）的觀念，即，我們同時(shí)生活在兩個(gè)不同的領(lǐng)域：現(xiàn)實(shí)世界，或者說(shuō)是真相的領(lǐng)域，以及神話周期。這個(gè)概念如何適用于互聯(lián)網(wǎng)上的所有奇怪事物呢？

-列維-斯特勞斯的見(jiàn)解是，想象力對(duì)人類(lèi)的生存非常有用，但到了19世紀(jì)和20世紀(jì)，就被忽視了。然而，我們?nèi)栽诰幑适?。好吧，這是為什么呢？如果你是一個(gè)完全理性的人，你應(yīng)該想要優(yōu)化生活的方方面面。為什么要浪費(fèi)時(shí)間講故事和憑空捏造事物？這不是高效的。

特別是在21世紀(jì)，認(rèn)為白日夢(mèng)可能有用，簡(jiǎn)直令人震驚。我們難道不應(yīng)該只是工作嗎？但列維-斯特勞斯認(rèn)為，這兩種思考方式都很重要，它們相輔相成。

? The Boston Globe

-這很有趣，因?yàn)槲覀兛赡軙?huì)想知道為什么我們要花費(fèi)這么多人力去構(gòu)建一個(gè)模擬的虛擬世界——試圖在線上建立一個(gè)蹩腳的創(chuàng)作副本。但在我看來(lái)，你與列維-斯特勞斯的觀點(diǎn)是，互聯(lián)網(wǎng)是我們?nèi)祟?lèi)創(chuàng)造神話的動(dòng)力所在。

也許魅力并沒(méi)有消失，而是悄悄地回到了我們互聯(lián)網(wǎng)創(chuàng)造的這片狂野、尚未成形的前沿。如果是這樣，那么所有那些小小的迷因都比我們想象的更有意義？

-我堅(jiān)信這一點(diǎn)。當(dāng)你審視幾個(gè)世紀(jì)以來(lái)的文化時(shí)，這并不奇怪。我們開(kāi)發(fā)創(chuàng)新的新技術(shù)，并且不斷帶來(lái)“驚喜，驚喜！”——我們用它們來(lái)講述故事。我認(rèn)為這在很大程度上被誤解了。

我的意思是，互聯(lián)網(wǎng)是用來(lái)做什么的？很多人仍然會(huì)說(shuō)它是信息高速公路；你去那里是為了獲取事實(shí)并完成你的工作——這可以追溯到90年代互網(wǎng)絡(luò)泡沫時(shí)代的公司宣傳。但互聯(lián)網(wǎng)從來(lái)就不是這個(gè)意思。它更像是麥克盧漢對(duì)創(chuàng)意空間的愿景，在這里，我們可以與他人分享我們想象力的投射。

-這讓我想到我們一直在與錯(cuò)誤的人談?wù)摶ヂ?lián)網(wǎng)。與其與技術(shù)大師和網(wǎng)絡(luò)政策專家交流，我們應(yīng)該轉(zhuǎn)向精神分析學(xué)家、人類(lèi)學(xué)家和神學(xué)家——專注于思考我們講述的故事、以及講述這些故事潛意識(shí)動(dòng)機(jī)的人。西格蒙德·弗洛伊德在網(wǎng)上會(huì)感到賓至如歸。

-是的，想想夢(mèng)境吧。我的意思是，互聯(lián)網(wǎng)——尤其是通過(guò)這些創(chuàng)造性的人工智能技術(shù)——就像一個(gè)夢(mèng)境，對(duì)吧？人類(lèi)生活中有多少被編碼在這些人工智能的幻覺(jué)中？我認(rèn)為在這方面有很多有趣的工作要做，但很少有人在研究。

-我最近讀到的另一個(gè)內(nèi)容——“復(fù)活的深度偽造”?！傲奶鞕C(jī)器人”或已故人物的復(fù)制品。這是一個(gè)迫切需要深入分析的話題。

-是的，這是一個(gè)很偉大的想法，人工智能實(shí)際上可以讓人重生。而且這是一個(gè)古老的想法，有點(diǎn)像19世紀(jì)末20世紀(jì)初流行的“靈異攝影”。攝影師在特效方面越來(lái)越精湛——是的，事實(shí)上，在暗房里可以編輯照片！他們發(fā)現(xiàn)，如果將底片曝光兩次，你可以得到兩張不同的圖像。因此，你可以讓某人坐下來(lái)拍攝肖像，然后將同一張底片曝光到他們失散已久的親人舊照片上，在二度曝光中，它會(huì)呈現(xiàn)出幽靈般的魅影。

? National Science and Media Museum

現(xiàn)在人們基本上也在使用“深偽”做類(lèi)似的事情，對(duì)吧？人們有這種與已故親人保持聯(lián)系的沖動(dòng)——我猜麥克盧漢可能對(duì)此會(huì)感到相當(dāng)滿意。

-你讓我想到，詢問(wèn)互聯(lián)網(wǎng)上的某事是真實(shí)的還是偽造的，似乎無(wú)關(guān)緊要。并不是說(shuō)你對(duì)不道德行為表示贊同。但你的一個(gè)主要觀點(diǎn)是，網(wǎng)絡(luò)虛假信息所揭示的內(nèi)容比隱藏的內(nèi)容更多，是因?yàn)樗鼈兏嬖V了我們一些關(guān)于我們自己的信息。它們傳達(dá)了怎樣的信息？

-這是很多社會(huì)科學(xué)家試圖找到的一個(gè)大問(wèn)題——一個(gè)概括性的解釋來(lái)歸納整個(gè)現(xiàn)象。但歸根結(jié)底，它只是在講故事。人們只是想要與其他人建立某種聯(lián)系。很多這些媒體對(duì)象都是為了人際交往。就像我想與你分享一些東西，我希望你了解我或我的社區(qū)的一些事情。

文/Anne Strainchamps

譯/tamiya2

校對(duì)/tim

原文/nautil.us/stop-worrying-about-deepfakes-470212/

本文基于創(chuàng)作共享協(xié)議（BY-NC），由tamiya2在利維坦發(fā)布

文章僅為作者觀點(diǎn)，未必代表利維坦立場(chǎng)