“10分鐘被騙430萬(wàn)”“9秒鐘被騙走245萬(wàn)元”“楊冪走進(jìn)小商家直播間”“互聯(lián)網(wǎng)大佬虛擬人真假難辨”……

作為普通人，我們往往是技術(shù)變革大潮里的一朵朵浪花，面對迭代速度超乎想象的AI技術(shù)，有的人正在被AI（人工智能）替代，失去工作崗位；有的人正琢磨利用AI工具掘金，為人生逆襲創(chuàng )造可能。

而騙子已經(jīng)高效地利用了Al，侵入人際關(guān)系，用技術(shù)加持扮作你的親友熟人，騙走你的錢(qián)財。

大模型火爆了3個(gè)月之后，比之更火爆的，是動(dòng)輒百萬(wàn)的詐騙金額、虛假“明星臉”、真假難辨的AI生成內容、多次抵抗AI覺(jué)醒的聯(lián)名上書(shū)，連續一周的熱搜……讓人們意識到，比發(fā)展AI更重要的，是保障AI安全。

如同航空火箭正式發(fā)射之前必須要經(jīng)過(guò)不斷驗證和試錯，技術(shù)進(jìn)步和發(fā)展中，騙子的出現也是AI發(fā)展中重要的一環(huán)。

你的臉，值430萬(wàn)元

試想一下，有人將一張“貼紙”貼在面部，就可以使人臉識別門(mén)禁系統誤認為是你，從而輕易打開(kāi)你家大門(mén)；同樣是這張“貼紙”，把它貼在眼鏡上，就可以1秒解鎖你的手機人臉識別，探取隱私如入無(wú)人之境。

技術(shù)改變了生活，也改變了詐騙。

4月20日11時(shí)40分左右，福州市某科技公司法人代表郭先生的好友突然通過(guò)微信視頻聯(lián)系到他。兩人經(jīng)過(guò)短暫聊天后，好友告訴郭先生，自己的朋友在外地投標，需要430萬(wàn)元保證金，且需要公對公賬戶(hù)過(guò)賬，所以想要借用郭先生公司的賬戶(hù)走一下賬。

好友向郭先生要了銀行卡號，聲稱(chēng)已經(jīng)把錢(qián)打到郭先生的賬戶(hù)上，還把銀行轉賬底單的截圖通過(guò)微信發(fā)給了郭先生。

基于視頻聊天信任的前提下，郭先生沒(méi)有核實(shí)錢(qián)是否到賬，于11時(shí)49分先后分兩筆把430萬(wàn)元給對方打了過(guò)去。錢(qián)款轉到后，郭先生給好友微信發(fā)了一條消息，稱(chēng)事情已經(jīng)辦妥。但讓他沒(méi)想到的是，好友回過(guò)來(lái)的消息竟然是一個(gè)問(wèn)號。

郭先生撥打好友電話(huà)，對方說(shuō)沒(méi)有這回事，他這才意識到可能遇上了“高端”騙局，對方通過(guò)智能AI換臉技術(shù)，佯裝成好友對他實(shí)施了詐騙。

“從頭到尾都沒(méi)有和我提借錢(qián)的事情，就說(shuō)會(huì )先把錢(qián)給我打過(guò)來(lái)，再讓我給他朋友賬戶(hù)轉過(guò)去，而且當時(shí)是給我打了視頻的，我在視頻中也確認了面孔和聲音，所以才放松了戒備。”郭先生說(shuō)。

在多方全力協(xié)助下，用時(shí)10分鐘，將該詐騙賬戶(hù)內的336.84萬(wàn)元被騙資金成功攔截。但剩余款項93.16萬(wàn)元至今未果。

不過(guò)，雖說(shuō)是看上去離譜的小概率事件，但據相關(guān)統計，AI技術(shù)新騙局來(lái)襲后，詐騙成功率竟接近100%。

而在這起案件背后，核心涉及了AI換臉以及語(yǔ)音合成這2個(gè)技術(shù)。

大眾所熟知的AI換臉?lè )矫?，現在即便一張2D照片，就能讓口型動(dòng)起來(lái)。據了解，合成一個(gè)動(dòng)態(tài)視頻，成本也僅在2元至10元。

當時(shí)涉案嫌疑人表示：“客戶(hù)”往往是成百上千購買(mǎi)，牟利空間巨大。

至于面向更精準、更實(shí)時(shí)的大型直播平臺，視頻實(shí)時(shí)換臉的全套模型購買(mǎi)價(jià)格在3.5萬(wàn)元，而且不存在延遲，也不會(huì )有Bug（漏洞）。

至于語(yǔ)音合成方面，技術(shù)效果也是越來(lái)越逼真，新模型和開(kāi)源項目涌現。

前段時(shí)間，微軟新模型VALL·E炸場(chǎng)學(xué)術(shù)圈：只需3秒，就可以復制任何人的聲音，甚至連環(huán)境背景音都能模仿。

而具備語(yǔ)音合成功能的工具Bark，更是曾登頂GitHub（開(kāi)源代碼托管平臺）榜首，除了音色接近真人，還能加入背景噪音和高度擬真的笑聲、嘆息和哭泣聲等。

在各類(lèi)社交網(wǎng)絡(luò )上，各種小白教程也層出不窮。要是結合虛擬攝像頭，可能就更加防不勝防。只需一個(gè)軟件應用程序，就可以在視頻通話(huà)中使用任意視頻資源。

點(diǎn)擊接通后，對方完全不會(huì )看到播放、暫停視頻等具體操作，只會(huì )看到視頻播放的效果，“接通后看到的就是美女了”。這樣一來(lái)，不僅視頻可以通過(guò)虛擬攝像頭，隨意拍攝甚至更換，甚至連說(shuō)話(huà)方式都可以真人定制。核心技術(shù)門(mén)檻的降低，也就給了犯罪分子可乘之機。

孫燕姿PK“AI孫燕姿”

“AI已經(jīng)從實(shí)驗室走到了工程化時(shí)代，而且比預想中更快。”某行業(yè)從業(yè)者無(wú)限感慨。

從語(yǔ)音識別，到今天遍地開(kāi)花的人工智能應用場(chǎng)景，AI歷經(jīng)多年發(fā)展，結出累累碩果。

在普通人為深度偽造技術(shù)加持的詐騙行為而提心吊膽之時(shí)，這陣AI的風(fēng)也吹到了公眾人物身上。

“AI孫燕姿”走紅全網(wǎng)。相較于真人孫燕姿，AI孫燕姿擁有幾可亂真的唱腔，還能“翻唱”任意其他歌手的歌曲，因此在B站、YouTube等平臺熱度不減，最后甚至驚動(dòng)了孫燕姿本尊。

后者在5月22日晚上親自發(fā)出長(cháng)文回應，其中寫(xiě)道“之前我們一直堅信，思想或觀(guān)點(diǎn)的形成是機器無(wú)法復制的任務(wù)，這超出了它們的能力范圍，但現在它卻赫然聳現并將威脅到成千上萬(wàn)個(gè)由人類(lèi)創(chuàng )造的工作”。

在海量的AI視頻面前，她認為“人類(lèi)無(wú)法超越它已經(jīng)指日可待”，表示“我認為思想純凈、做自己，已然足夠”。

在視頻網(wǎng)站上搜索“AI孫燕姿”，不僅能看到成百上千的翻唱作品，還能看到制作教程。經(jīng)過(guò)學(xué)習，每一個(gè)人都能擁有自己的定制歌手。在人工智能龐大的運算能力面前，從業(yè)23年的金牌歌手也會(huì )感到挫敗，“你并不特別，你已經(jīng)是可預測的，而且不幸的是，你也是可定制的”。

感到挫敗的遠不止孫燕姿一人。

隨著(zhù)人工智能的飛速發(fā)展，網(wǎng)友正見(jiàn)證著(zhù)人類(lèi)引以為傲的智力勞動(dòng)和藝術(shù)創(chuàng )作領(lǐng)域被AI“入侵”。人類(lèi)輸掉的不僅是速度與數量，還有質(zhì)量。

在這個(gè)意義上，孫燕姿和“AI孫燕姿”的較量，背后是整個(gè)人類(lèi)與AI的較量。這種較量具體而言，首先是一種身份的爭奪。在“AI孫燕姿”面前，我們忽然發(fā)現，曾經(jīng)自認為專(zhuān)屬的、代表個(gè)人身份特征的聲音、面容等標識，已另有“分身”；曾經(jīng)自認為獨有的歌唱、表達能力，似乎也可以被運算、模擬、定制。

從生產(chǎn)力強弱上來(lái)看，或許孫燕姿與“AI孫燕姿”的較量勝負已定。正如孫燕姿自嘲“你跟一個(gè)每幾分鐘就推出一張新專(zhuān)輯的人還有什么好爭的”。

但從身份的歸屬看，“AI孫燕姿”依然從屬于孫燕姿。是孫燕姿聽(tīng)眾的需求創(chuàng )造了“AI孫燕姿”，是孫燕姿的聲音與唱腔教會(huì )了“AI孫燕姿”，是孫燕姿的影響力帶火了“AI孫燕姿”。

身份的爭奪，不是孫燕姿與“AI孫燕姿”的單挑。人類(lèi)的情感，驅使AI去當撫慰人心的歌手；而人類(lèi)的欲望，則可能會(huì )驅使AI去當不法分子的同謀。除了身份的爭奪，關(guān)于“AI孫燕姿”的作品也有侵權之嫌，今后版權歸屬問(wèn)題不可回避。

或許正如有人評論的：“究竟AI是利大于弊，還是弊大于利，現在還難以斷定。唯一可以明確的是，AI的發(fā)展還在起步階段，帶給世界的震撼才剛剛開(kāi)始。”

要命的AI

AI的發(fā)展速度讓外界始料未及，唱衰和警告的聲音也越來(lái)越多。

英國首相蘇納克針對AI安全性發(fā)出的一則警告：英國將帶頭限制AI可能帶來(lái)的危險。

馬斯克更極端。甚至把AI比作未來(lái)人類(lèi)文明最大的風(fēng)險之一，威脅程度遠高于車(chē)禍、飛機失事、毒品泛濫等，甚至比核武器都要危險得多。

這兩年談到電信詐騙就不得不提一句緬北，作為一塊事實(shí)上的“三不管”地區，緬甸北部聚攏了來(lái)自整個(gè)東南亞的“電詐精英”。無(wú)論是光明正大的在線(xiàn)招聘，還是同行介紹的暴富捷徑，只要一只腳踏進(jìn)了緬北的圈子，那么迎接你的就是電詐一條龍式的“集中營(yíng)”生活?？梢哉f(shuō)緬北的詐騙團伙已經(jīng)做到了一條完整的產(chǎn)業(yè)鏈，除了壟斷了整個(gè)亞洲地區將近七成的詐騙案，甚至炮制了諸多讓人心驚膽寒的命案。

僅不完全統計，緬北直接從事“電詐”行業(yè)的人數高達10萬(wàn)。

但規模如此宏壯，手段如此兇殘、業(yè)務(wù)如此熟練的緬北電詐集團也在2023年接軌了“新手段”——借由人工智能技術(shù)打造的“AI詐騙”。

它不僅可以做到人工費無(wú)限趨近于0，而且相比以往緬北大海撈針似的撒網(wǎng)式詐騙，AI詐騙的精準度和得手率簡(jiǎn)直高得離譜。因為它可以1比1地刻畫(huà)任何人的面部動(dòng)作和表達方式，甚至連嗓音的相似度都能做到95%以上。完全由AI算法生成的小視頻，和真人視頻電話(huà)的場(chǎng)景一模一樣。

如果一個(gè)跟你女兒音容笑貌完全一樣的人向你打來(lái)借錢(qián)電話(huà)你借不借？如果一個(gè)跟你母親長(cháng)得一模一樣的人通過(guò)視頻電話(huà)告訴你她得了一場(chǎng)大病急需一筆住院費那你給還是不給？我相信大多數人都有可能中招，畢竟耳聽(tīng)為虛，眼見(jiàn)為實(shí)，看得見(jiàn)聽(tīng)得著(zhù)的視頻通話(huà)還能造假不成？

結果很不幸，大量AI詐騙的受害者都是抱有這樣的心態(tài)而吃虧上當的。

AI技術(shù)仿佛在人類(lèi)真正做好準備之前，就在一瞬間擁入了生活的方方面面，紅利和風(fēng)險同時(shí)擺在了人們的面前。

哈利·波特中赫敏扮演者艾瑪的30秒換臉色情視頻，在各個(gè)平臺已經(jīng)超過(guò)了上千萬(wàn)次的播放量。（更離譜的是，這個(gè)視頻居然還是推廣AI換臉技術(shù)的App制作商投放的。）

2021年，王某因為被不法分子利用AI換臉技術(shù)合成不雅視頻而被敲詐了11萬(wàn)元。

蘇州大學(xué)一名大學(xué)生多次通過(guò)惡意P圖、特效合成的手段在色情網(wǎng)站上傳播多位女性同學(xué)的色情內容。

隨著(zhù)ChatGPT、Midjourney、Stable Diffusion這些劃時(shí)代的AI工具的誕生，利用AI技術(shù)進(jìn)行犯罪的手段也開(kāi)始變得越來(lái)越多，越來(lái)越高明。除了涉及應用，技術(shù)和法律層面的問(wèn)題需要人們給予更多關(guān)注以外，在科技進(jìn)步、信息發(fā)達的今天，年輕人“交往”的欲望越發(fā)強烈，并將這種訴求傾注在了線(xiàn)上。從另一個(gè)視角看，年輕人喜愛(ài)的線(xiàn)上熱鬧和時(shí)興的技術(shù)，不但沒(méi)拉近人與人之間的距離，反而將心推得更遠。你很難確定網(wǎng)線(xiàn)那頭是不是一只貓。

英國阿斯頓大學(xué)學(xué)者大衛·科林格里奇曾提出，這是一個(gè)探索未知的時(shí)代，一個(gè)充滿(mǎn)機遇和挑戰的時(shí)代，這同樣也是一個(gè)時(shí)刻被新物種顛覆的時(shí)代。

想要突破AI的“科林格里奇困境”，需要國際組織、國家機關(guān)、企業(yè)團體與個(gè)人聯(lián)合努力，攜手并進(jìn)。

AI頻頻失控的當下，羅生門(mén)究竟會(huì )開(kāi)向哪一邊，標準答案尚未浮現。不過(guò)，在社會(huì )高速公路上飛馳的AI，急停只會(huì )造成難以估量的損失，我們要做的，唯有認準方向，勇往直前。