這些被篡改的內(nèi)容在社交媒體、即時通訊應(yīng)用和視頻分享平臺上廣泛傳播，模糊了現(xiàn)實(shí)與虛構(gòu)之間的界限。
“Deepfake”一詞是在2017年由一位Reddit用戶創(chuàng)造的，當(dāng)時該用戶創(chuàng)建了一個以此命名的子論壇(subreddit)。這個子論壇被用來分享AI生成的視頻，其中經(jīng)常包含名人換臉的色情內(nèi)容。
起初，人們制作Deepfake是為了娛樂和消遣，但隨著時間的推移，它們已成為犯罪分子手中危險的工具，用于詐騙、身份盜用、勒索和傳播虛假信息。
更令人擔(dān)憂的是，現(xiàn)在制作Deepfake已不再需要高超的技能。
Deepfake背后的技術(shù)
Deepfake主要依賴于一種名為生成對抗網(wǎng)絡(luò)(Generative Adversarial Networks，簡稱GANs)的技術(shù)。從本質(zhì)上講，GANs涉及兩個協(xié)同工作的算法。
第一個算法是生成器，負(fù)責(zé)創(chuàng)建假內(nèi)容，如視頻或圖像。第二個算法是判別器，負(fù)責(zé)判斷內(nèi)容是否真實(shí)。這兩個算法相互推動、共同進(jìn)步：生成器越來越擅長制作逼真的假內(nèi)容，而判別器則越來越擅長發(fā)現(xiàn)不完美之處。
另一種常用于任務(wù)(如換臉)的技術(shù)是自動編碼器(autoencoders)。與GANs不同，自動編碼器不使用生成器和判別器。相反，它們專注于將人的面部特征壓縮成一種小巧、易于管理的格式，然后將其重建到另一個人的臉上。盡管這種方法不使用GANs，但它仍然能夠制作出令人信服的Deepfake，特別是對于換臉等簡單任務(wù)。
隨著各種AI工具的普及，從開源軟件(如DeepFaceLab、Faceswap)到手機(jī)應(yīng)用(如Zao、Reface)，現(xiàn)在制作Deepfake只需要一臺筆記本電腦或智能手機(jī)以及合適的軟件。
網(wǎng)絡(luò)犯罪分子將Deepfake武器化
根據(jù)Entrust的一份報告，2024年每五分鐘就會發(fā)生一起Deepfake攻擊。在一起案例中，通過Deepfake視頻會議結(jié)合社會工程學(xué)手段，導(dǎo)致一家跨國公司損失超過2500萬美元。
這些詐騙對加密貨幣公司造成了重大影響，平均損失達(dá)44萬美元。
最近一起引起轟動的詐騙案涉及一名法國女性，她被一名冒充演員布拉德·皮特(Brad Pitt)的騙子欺騙。騙子利用AI生成的圖像讓她相信他們正在談一場浪漫戀愛。在18個月的時間里，這名女性向騙子轉(zhuǎn)賬83萬歐元，以為這是用于皮特遭遇的醫(yī)療緊急情況。
除了造成經(jīng)濟(jì)損失，此類騙局還會導(dǎo)致情感困擾，破壞對數(shù)字通信的信任，并擾亂企業(yè)運(yùn)營。
鑒于全球復(fù)雜的地緣政治形勢，這項(xiàng)技術(shù)還被用于傳播虛假信息，特別是在政治領(lǐng)域。這些AI生成的視頻和音頻記錄可以偽造候選人發(fā)表爭議性言論或從事破壞性行為，從而可能影響選民的投票決定。因此，它們可能對民主制度產(chǎn)生毀滅性的影響。
如何識別Deepfake
盡管Deepfake在不斷改進(jìn)，但它們?nèi)匀淮嬖诓煌昝乐帲@有助于提升我們的識別能力。
面部動作：觀察是否有不自然的眨眼模式或眼睛看起來不自然地靜止。對事件反應(yīng)中的細(xì)微延遲或表情不匹配也可能是破綻。
光線和陰影：檢查主體面部的光線是否與周圍環(huán)境相匹配。光線不一致，如移動的光或不規(guī)則的陰影和反射，可能表明存在篡改。
音畫同步：確?？谛蛣幼髋c音頻自然對齊。如果唇音不同步或聲音有輕微失真，可能是編輯的痕跡。
視覺偽影：檢查面部與頭發(fā)或背景相接的邊緣。不尋常的模糊、扭曲的邊界、像素化或重影效果可能表明視頻已被篡改。
如何減輕Deepfake風(fēng)險
我們可以采取一些預(yù)防措施來保護(hù)自己：
使用Deepfake檢測工具和軟件：利用專門的工具和基于AI的軟件來檢測Deepfake。這些工具可以分析數(shù)字內(nèi)容中的異常，并幫助驗(yàn)證其真實(shí)性。
關(guān)注Deepfake趨勢和技術(shù)：讓自己了解Deepfake技術(shù)的最新進(jìn)展。了解新技術(shù)和常見的操縱跡象有助于識別Deepfake。
實(shí)施多因素身份驗(yàn)證(MFA)來驗(yàn)證身份：這可以防止攻擊者即使制作出逼真的Deepfake也能訪問敏感賬戶。
為敏感通信建立暗語或驗(yàn)證流程：這有助于確保與您通信的人確實(shí)是他們所聲稱的人。在處理交易或敏感個人事務(wù)時特別有用。
限制在網(wǎng)上分享個人媒體：您在網(wǎng)上分享的個人媒體越多，為不法分子制作Deepfake提供的素材就越多。請謹(jǐn)慎分享社交媒體上的圖片、視頻和其他媒體。調(diào)整隱私設(shè)置，以便只有受信任的個人或群體能夠查看。
雖然我們無法預(yù)知未來，但20年前不可能實(shí)現(xiàn)或只有少數(shù)人能接觸到的事物，現(xiàn)在每個人都可以接觸到，這也意味著懷有惡意的人也能接觸到。
隨著技術(shù)的發(fā)展，區(qū)分真?zhèn)螌⒆兊迷絹碓嚼щy，而且我們也沒有魔法棒可以保護(hù)自己。我們能做的就是小心謹(jǐn)慎，并采取一切力所能及的措施來保護(hù)自己。當(dāng)然，不要相信在互聯(lián)網(wǎng)或社交媒體上看到的一切。
企業(yè)網(wǎng)D1net(m.hfnxjk.com)：
國內(nèi)主流的to B IT門戶，旗下運(yùn)營國內(nèi)最大的甲方CIO專家?guī)旌椭橇敵黾吧缃黄脚_-信眾智(www.cioall.com)。旗下運(yùn)營19個IT行業(yè)公眾號(微信搜索D1net即可關(guān)注)。
版權(quán)聲明：本文為企業(yè)網(wǎng)D1Net編譯，轉(zhuǎn)載需在文章開頭注明出處為：企業(yè)網(wǎng)D1Net，如果不注明出處，企業(yè)網(wǎng)D1Net將保留追究其法律責(zé)任的權(quán)利。
京公網(wǎng)安備 11010502049343號