“10分鐘被騙430萬”“9秒鐘被騙走245萬元”“楊冪走進(jìn)小商家直播間”“互聯(lián)網(wǎng)大佬虛擬人真假難辨”……

作為普通人，我們往往是技術(shù)變革大潮里的一朵朵浪花，面對(duì)迭代速度超乎想象的AI技術(shù)，有的人正在被AI（人工智能）替代，失去工作崗位；有的人正琢磨利用AI工具掘金，為人生逆襲創(chuàng)造可能。

而騙子已經(jīng)高效地利用了Al，侵入人際關(guān)系，用技術(shù)加持扮作你的親友熟人，騙走你的錢財(cái)。

大模型火爆了3個(gè)月之后，比之更火爆的，是動(dòng)輒百萬的詐騙金額、虛假“明星臉”、真假難辨的AI生成內(nèi)容、多次抵抗AI覺醒的聯(lián)名上書，連續(xù)一周的熱搜……讓人們意識(shí)到，比發(fā)展AI更重要的，是保障AI安全。

如同航空火箭正式發(fā)射之前必須要經(jīng)過不斷驗(yàn)證和試錯(cuò)，技術(shù)進(jìn)步和發(fā)展中，騙子的出現(xiàn)也是AI發(fā)展中重要的一環(huán)。

你的臉，值430萬元

試想一下，有人將一張“貼紙”貼在面部，就可以使人臉識(shí)別門禁系統(tǒng)誤認(rèn)為是你，從而輕易打開你家大門；同樣是這張“貼紙”，把它貼在眼鏡上，就可以1秒解鎖你的手機(jī)人臉識(shí)別，探取隱私如入無人之境。

技術(shù)改變了生活，也改變了詐騙。

4月20日11時(shí)40分左右，福州市某科技公司法人代表郭先生的好友突然通過微信視頻聯(lián)系到他。兩人經(jīng)過短暫聊天后，好友告訴郭先生，自己的朋友在外地投標(biāo)，需要430萬元保證金，且需要公對(duì)公賬戶過賬，所以想要借用郭先生公司的賬戶走一下賬。

好友向郭先生要了銀行卡號(hào)，聲稱已經(jīng)把錢打到郭先生的賬戶上，還把銀行轉(zhuǎn)賬底單的截圖通過微信發(fā)給了郭先生。

基于視頻聊天信任的前提下，郭先生沒有核實(shí)錢是否到賬，于11時(shí)49分先后分兩筆把430萬元給對(duì)方打了過去。錢款轉(zhuǎn)到后，郭先生給好友微信發(fā)了一條消息，稱事情已經(jīng)辦妥。但讓他沒想到的是，好友回過來的消息竟然是一個(gè)問號(hào)。

郭先生撥打好友電話，對(duì)方說沒有這回事，他這才意識(shí)到可能遇上了“高端”騙局，對(duì)方通過智能AI換臉技術(shù)，佯裝成好友對(duì)他實(shí)施了詐騙。

“從頭到尾都沒有和我提借錢的事情，就說會(huì)先把錢給我打過來，再讓我給他朋友賬戶轉(zhuǎn)過去，而且當(dāng)時(shí)是給我打了視頻的，我在視頻中也確認(rèn)了面孔和聲音，所以才放松了戒備。”郭先生說。

在多方全力協(xié)助下，用時(shí)10分鐘，將該詐騙賬戶內(nèi)的336.84萬元被騙資金成功攔截。但剩余款項(xiàng)93.16萬元至今未果。

不過，雖說是看上去離譜的小概率事件，但據(jù)相關(guān)統(tǒng)計(jì)，AI技術(shù)新騙局來襲后，詐騙成功率竟接近100%。

而在這起案件背后，核心涉及了AI換臉以及語音合成這2個(gè)技術(shù)。

大眾所熟知的AI換臉方面，現(xiàn)在即便一張2D照片，就能讓口型動(dòng)起來。據(jù)了解，合成一個(gè)動(dòng)態(tài)視頻，成本也僅在2元至10元。

當(dāng)時(shí)涉案嫌疑人表示：“客戶”往往是成百上千購(gòu)買，牟利空間巨大。

至于面向更精準(zhǔn)、更實(shí)時(shí)的大型直播平臺(tái)，視頻實(shí)時(shí)換臉的全套模型購(gòu)買價(jià)格在3.5萬元，而且不存在延遲，也不會(huì)有Bug（漏洞）。

至于語音合成方面，技術(shù)效果也是越來越逼真，新模型和開源項(xiàng)目涌現(xiàn)。

前段時(shí)間，微軟新模型VALL·E炸場(chǎng)學(xué)術(shù)圈：只需3秒，就可以復(fù)制任何人的聲音，甚至連環(huán)境背景音都能模仿。

而具備語音合成功能的工具Bark，更是曾登頂GitHub（開源代碼托管平臺(tái)）榜首，除了音色接近真人，還能加入背景噪音和高度擬真的笑聲、嘆息和哭泣聲等。

在各類社交網(wǎng)絡(luò)上，各種小白教程也層出不窮。要是結(jié)合虛擬攝像頭，可能就更加防不勝防。只需一個(gè)軟件應(yīng)用程序，就可以在視頻通話中使用任意視頻資源。

點(diǎn)擊接通后，對(duì)方完全不會(huì)看到播放、暫停視頻等具體操作，只會(huì)看到視頻播放的效果，“接通后看到的就是美女了”。這樣一來，不僅視頻可以通過虛擬攝像頭，隨意拍攝甚至更換，甚至連說話方式都可以真人定制。核心技術(shù)門檻的降低，也就給了犯罪分子可乘之機(jī)。

孫燕姿PK“AI孫燕姿”

“AI已經(jīng)從實(shí)驗(yàn)室走到了工程化時(shí)代，而且比預(yù)想中更快。”某行業(yè)從業(yè)者無限感慨。

從語音識(shí)別，到今天遍地開花的人工智能應(yīng)用場(chǎng)景，AI歷經(jīng)多年發(fā)展，結(jié)出累累碩果。

在普通人為深度偽造技術(shù)加持的詐騙行為而提心吊膽之時(shí)，這陣AI的風(fēng)也吹到了公眾人物身上。

“AI孫燕姿”走紅全網(wǎng)。相較于真人孫燕姿，AI孫燕姿擁有幾可亂真的唱腔，還能“翻唱”任意其他歌手的歌曲，因此在B站、YouTube等平臺(tái)熱度不減，最后甚至驚動(dòng)了孫燕姿本尊。

后者在5月22日晚上親自發(fā)出長(zhǎng)文回應(yīng)，其中寫道“之前我們一直堅(jiān)信，思想或觀點(diǎn)的形成是機(jī)器無法復(fù)制的任務(wù)，這超出了它們的能力范圍，但現(xiàn)在它卻赫然聳現(xiàn)并將威脅到成千上萬個(gè)由人類創(chuàng)造的工作”。

在海量的AI視頻面前，她認(rèn)為“人類無法超越它已經(jīng)指日可待”，表示“我認(rèn)為思想純凈、做自己，已然足夠”。

在視頻網(wǎng)站上搜索“AI孫燕姿”，不僅能看到成百上千的翻唱作品，還能看到制作教程。經(jīng)過學(xué)習(xí)，每一個(gè)人都能擁有自己的定制歌手。在人工智能龐大的運(yùn)算能力面前，從業(yè)23年的金牌歌手也會(huì)感到挫敗，“你并不特別，你已經(jīng)是可預(yù)測(cè)的，而且不幸的是，你也是可定制的”。

感到挫敗的遠(yuǎn)不止孫燕姿一人。

隨著人工智能的飛速發(fā)展，網(wǎng)友正見證著人類引以為傲的智力勞動(dòng)和藝術(shù)創(chuàng)作領(lǐng)域被AI“入侵”。人類輸?shù)舻牟粌H是速度與數(shù)量，還有質(zhì)量。

在這個(gè)意義上，孫燕姿和“AI孫燕姿”的較量，背后是整個(gè)人類與AI的較量。這種較量具體而言，首先是一種身份的爭(zhēng)奪。在“AI孫燕姿”面前，我們忽然發(fā)現(xiàn)，曾經(jīng)自認(rèn)為專屬的、代表個(gè)人身份特征的聲音、面容等標(biāo)識(shí)，已另有“分身”；曾經(jīng)自認(rèn)為獨(dú)有的歌唱、表達(dá)能力，似乎也可以被運(yùn)算、模擬、定制。

從生產(chǎn)力強(qiáng)弱上來看，或許孫燕姿與“AI孫燕姿”的較量勝負(fù)已定。正如孫燕姿自嘲“你跟一個(gè)每幾分鐘就推出一張新專輯的人還有什么好爭(zhēng)的”。

但從身份的歸屬看，“AI孫燕姿”依然從屬于孫燕姿。是孫燕姿聽眾的需求創(chuàng)造了“AI孫燕姿”，是孫燕姿的聲音與唱腔教會(huì)了“AI孫燕姿”，是孫燕姿的影響力帶火了“AI孫燕姿”。

身份的爭(zhēng)奪，不是孫燕姿與“AI孫燕姿”的單挑。人類的情感，驅(qū)使AI去當(dāng)撫慰人心的歌手；而人類的欲望，則可能會(huì)驅(qū)使AI去當(dāng)不法分子的同謀。除了身份的爭(zhēng)奪，關(guān)于“AI孫燕姿”的作品也有侵權(quán)之嫌，今后版權(quán)歸屬問題不可回避。

或許正如有人評(píng)論的：“究竟AI是利大于弊，還是弊大于利，現(xiàn)在還難以斷定。唯一可以明確的是，AI的發(fā)展還在起步階段，帶給世界的震撼才剛剛開始。”

要命的AI

AI的發(fā)展速度讓外界始料未及，唱衰和警告的聲音也越來越多。

英國(guó)首相蘇納克針對(duì)AI安全性發(fā)出的一則警告：英國(guó)將帶頭限制AI可能帶來的危險(xiǎn)。

馬斯克更極端。甚至把AI比作未來人類文明最大的風(fēng)險(xiǎn)之一，威脅程度遠(yuǎn)高于車禍、飛機(jī)失事、毒品泛濫等，甚至比核武器都要危險(xiǎn)得多。

這兩年談到電信詐騙就不得不提一句緬北，作為一塊事實(shí)上的“三不管”地區(qū)，緬甸北部聚攏了來自整個(gè)東南亞的“電詐精英”。無論是光明正大的在線招聘，還是同行介紹的暴富捷徑，只要一只腳踏進(jìn)了緬北的圈子，那么迎接你的就是電詐一條龍式的“集中營(yíng)”生活?？梢哉f緬北的詐騙團(tuán)伙已經(jīng)做到了一條完整的產(chǎn)業(yè)鏈，除了壟斷了整個(gè)亞洲地區(qū)將近七成的詐騙案，甚至炮制了諸多讓人心驚膽寒的命案。

僅不完全統(tǒng)計(jì)，緬北直接從事“電詐”行業(yè)的人數(shù)高達(dá)10萬。

但規(guī)模如此宏壯，手段如此兇殘、業(yè)務(wù)如此熟練的緬北電詐集團(tuán)也在2023年接軌了“新手段”——借由人工智能技術(shù)打造的“AI詐騙”。

它不僅可以做到人工費(fèi)無限趨近于0，而且相比以往緬北大海撈針?biāo)频娜鼍W(wǎng)式詐騙，AI詐騙的精準(zhǔn)度和得手率簡(jiǎn)直高得離譜。因?yàn)樗梢?比1地刻畫任何人的面部動(dòng)作和表達(dá)方式，甚至連嗓音的相似度都能做到95%以上。完全由AI算法生成的小視頻，和真人視頻電話的場(chǎng)景一模一樣。

如果一個(gè)跟你女兒音容笑貌完全一樣的人向你打來借錢電話你借不借？如果一個(gè)跟你母親長(zhǎng)得一模一樣的人通過視頻電話告訴你她得了一場(chǎng)大病急需一筆住院費(fèi)那你給還是不給？我相信大多數(shù)人都有可能中招，畢竟耳聽為虛，眼見為實(shí)，看得見聽得著的視頻通話還能造假不成？

結(jié)果很不幸，大量AI詐騙的受害者都是抱有這樣的心態(tài)而吃虧上當(dāng)?shù)摹?/p>

AI技術(shù)仿佛在人類真正做好準(zhǔn)備之前，就在一瞬間擁入了生活的方方面面，紅利和風(fēng)險(xiǎn)同時(shí)擺在了人們的面前。

哈利·波特中赫敏扮演者艾瑪?shù)?0秒換臉色情視頻，在各個(gè)平臺(tái)已經(jīng)超過了上千萬次的播放量。（更離譜的是，這個(gè)視頻居然還是推廣AI換臉技術(shù)的App制作商投放的。）

2021年，王某因?yàn)楸徊环ǚ肿永肁I換臉技術(shù)合成不雅視頻而被敲詐了11萬元。

蘇州大學(xué)一名大學(xué)生多次通過惡意P圖、特效合成的手段在色情網(wǎng)站上傳播多位女性同學(xué)的色情內(nèi)容。

隨著ChatGPT、Midjourney、Stable Diffusion這些劃時(shí)代的AI工具的誕生，利用AI技術(shù)進(jìn)行犯罪的手段也開始變得越來越多，越來越高明。除了涉及應(yīng)用，技術(shù)和法律層面的問題需要人們給予更多關(guān)注以外，在科技進(jìn)步、信息發(fā)達(dá)的今天，年輕人“交往”的欲望越發(fā)強(qiáng)烈，并將這種訴求傾注在了線上。從另一個(gè)視角看，年輕人喜愛的線上熱鬧和時(shí)興的技術(shù)，不但沒拉近人與人之間的距離，反而將心推得更遠(yuǎn)。你很難確定網(wǎng)線那頭是不是一只貓。

英國(guó)阿斯頓大學(xué)學(xué)者大衛(wèi)·科林格里奇曾提出，這是一個(gè)探索未知的時(shí)代，一個(gè)充滿機(jī)遇和挑戰(zhàn)的時(shí)代，這同樣也是一個(gè)時(shí)刻被新物種顛覆的時(shí)代。

想要突破AI的“科林格里奇困境”，需要國(guó)際組織、國(guó)家機(jī)關(guān)、企業(yè)團(tuán)體與個(gè)人聯(lián)合努力，攜手并進(jìn)。

AI頻頻失控的當(dāng)下，羅生門究竟會(huì)開向哪一邊，標(biāo)準(zhǔn)答案尚未浮現(xiàn)。不過，在社會(huì)高速公路上飛馳的AI，急停只會(huì)造成難以估量的損失，我們要做的，唯有認(rèn)準(zhǔn)方向，勇往直前。