“上帝創(chuàng )造了人類(lèi)，人類(lèi)卻懷疑上帝。人類(lèi)創(chuàng )造了機器人，機器人為何不能懷疑人類(lèi)？”

一、AI時(shí)代的恐懼

前段時(shí)間媒體上一直傳說(shuō)著(zhù)一個(gè)Facebook人工智能部門(mén)的恐怖故事。

大致是FB員工在引導兩個(gè)AI自己聊天，一開(kāi)始還是正常的聊天，屏幕上顯示的字還是普通我們讀得懂的英文。但是聊著(zhù)聊著(zhù)，發(fā)現兩個(gè)AI發(fā)明了一種新的語(yǔ)言，而且這種語(yǔ)言根本不是人類(lèi)的語(yǔ)言，更重要的是兩個(gè)AI仍然聊的不亦樂(lè )乎，并且無(wú)視程序言下達的命令。最后FB停止了這一項目的研究，原因是“擔心可能會(huì )對這些AI失去控制”。

當然只能算是一個(gè)恐怖故事，因為實(shí)際上這只是一個(gè)AI的bug被媒體不斷放大了而已。

但是我知道很多人在看到這樣的新聞時(shí)，后背不斷發(fā)涼，因為感覺(jué)這樣的日子貌似并不遙遠。

如果說(shuō)去年AlphaGO擊敗了李世石讓大家還心存僥幸，那么今年擊敗柯杰，則最終向人們傳達了這么一個(gè)信息：人類(lèi)，已經(jīng)不是這個(gè)星球上最聰明的“物種”了。

而在人類(lèi)過(guò)去幾萬(wàn)年不斷征服自然的過(guò)程中，我們深刻的明白：不是最聰明，意味著(zhù)被消滅，或者像動(dòng)物園的獅子那樣，被奴役。

我認識一個(gè)朋友，是從一個(gè)大投行出來(lái)，后來(lái)去了一家投AI的PE機構。但是之前再次見(jiàn)他，他已經(jīng)辭去了所有工作，反正之前賺的錢(qián)也夠了，現在就專(zhuān)門(mén)負責游山玩水。問(wèn)及原因，答：AI會(huì )消滅人類(lèi)，并且我們終將無(wú)力反抗，我只是及時(shí)行樂(lè )而已。——這是真事！

對未知的恐懼是人類(lèi)的天性，過(guò)去的先人，對氣候充滿(mǎn)恐懼，因為不知道什么時(shí)候爆發(fā)下洪水就把家淹了，能做的只有祈禱?，F在我們也對AI也充滿(mǎn)了看恐懼，不知道哪天就把人類(lèi)給KO了。

曾經(jīng)討論外星人文明和人類(lèi)文明有個(gè)經(jīng)典的比喻，是螞蟻和高速公路的比喻。這個(gè)比喻對應到AI問(wèn)題也同樣適用。

大致的意思人類(lèi)建造一條高速公路，我們會(huì )征求拆遷戶(hù)的意見(jiàn)，但我們絕對不會(huì )去征求路邊螞蟻的意見(jiàn)，因為我們做的事超出了他們的理解范圍，也沒(méi)想過(guò)螞蟻能夠理解。如果因為建了一條道高速公路而搗毀了一個(gè)螞蟻窩，我們也從來(lái)不會(huì )同情，也不會(huì )有哪怕有一絲的道德負罪感。

所以反過(guò)來(lái)，我們也擔心，哪天在A(yíng)I面前，我們萬(wàn)一成了那只不用征求意見(jiàn)的螞蟻了呢？

按理說(shuō)AI這么龐大的課題，我也不是AI從業(yè)者，完全沒(méi)有我說(shuō)話(huà)的資格，但誰(shuí)叫我是個(gè)吃了飯沒(méi)事做愛(ài)瞎琢磨愛(ài)湊熱鬧閑的蛋疼的吃瓜群眾呢，而且更重要的是，這也關(guān)乎我的生死存亡啊。

所有我就把自己對AI時(shí)代的一些思考給寫(xiě)了下來(lái)，包括這個(gè)終極問(wèn)題：我們會(huì )被人工智能奴役么？希望共同探討，共同學(xué)習。

二、AI時(shí)代沒(méi)有隱私

大家應該都知道《皇帝的新裝》的故事。而在A(yíng)I時(shí)代，我們就是那個(gè)自以為穿著(zhù)衣服的皇帝，甚至不只是衣服，連肚里的蛔蟲(chóng)，腦子里的小心思，都會(huì )被人偷窺的一覽無(wú)余。

馬云說(shuō)，數據是人工智能的核心。

前幾天，深圳的兩家巨無(wú)霸公司，騰訊和華為，打起了嘴炮，騰訊指控華為手機竊取用戶(hù)數據，華為說(shuō)我是經(jīng)過(guò)用戶(hù)允許的。這嘴炮背后爭奪的，其實(shí)就是用戶(hù)的數據。

隨著(zhù)互聯(lián)網(wǎng)滲透到了生活的方方面面，我們的任何動(dòng)作都是留痕的，都是可追溯的，我們個(gè)人的隱私其實(shí)已經(jīng)完全暴露在了光天化日之下。

比方說(shuō)，通過(guò)對我個(gè)人微信聊天中內容的分析，通過(guò)我的支付行為的分析，通過(guò)我淘寶行為的分析，通過(guò)我百度搜索記錄的分析，通過(guò)我訪(fǎng)問(wèn)各種網(wǎng)站的分析，科技巨頭會(huì )比我自己更了解我自己。他們可以分析出我的愛(ài)好，我的習慣，我的性格，包括可以大致猜測出我腦子里的想法，甚至可以推測將來(lái)我腦子里會(huì )有什么想法。

記得大學(xué)畢業(yè)，曾經(jīng)去阿里的大數據中心應聘，第一步就是用個(gè)人淘寶賬號提交簡(jiǎn)歷，沒(méi)錯，就是我平時(shí)買(mǎi)東西用的淘寶賬號，后來(lái)想想，阿里沒(méi)要我，可能就是想看看我淘寶平時(shí)買(mǎi)了什么東西，發(fā)現這個(gè)人在大學(xué)沒(méi)事就買(mǎi)游戲點(diǎn)卡，肯定沒(méi)好好學(xué)習，然后果斷拒掉。因為阿里通過(guò)個(gè)人的淘寶賬號，可以很快的了解我是一個(gè)什么樣的人，這個(gè)可能比和HR聊一天都管用。當然這是我的猜測，不過(guò)理論上完全可行啊。

但是數據這個(gè)東西，我個(gè)人的聊天記錄，我個(gè)人的淘寶記錄，到底是屬于誰(shuí)的，肯定是屬于我的，只要我不同意，無(wú)論是誰(shuí)都不能用我的數據去進(jìn)行分析。

事實(shí)肯定不是這樣，雖然在類(lèi)似注冊的時(shí)候，可以選擇是否授權公司分析我的數據，但畢竟，這些數據不在我的手中，也沒(méi)人會(huì )去監管我的數據是否按照我的想法進(jìn)行處理。另外從國家的角度，甚至他們比公司更希望獲得所有國民的數據。

擁有了用戶(hù)數據是個(gè)很可怕的事，基本可以用上帝視角來(lái)俯視眾人。而目前從法律層面似乎沒(méi)有辦法去提供強有力的監管，我們提供我們的數據是基于：

1）我們需要他們的產(chǎn)品，

2）相信擁有我們數據公司不會(huì )做大惡。

但是誰(shuí)敢保證他們永遠不作惡呢？

然后我猜想，最后可能是被收割最慘的國家最早起來(lái)反抗。我猜歐洲可能會(huì )最早實(shí)質(zhì)上推進(jìn)用戶(hù)數據的保護，因為歐洲是在數據上屬于被收割，沒(méi)有能力去收割別人的國家。

對歐洲眾多小國來(lái)說(shuō)，他們國內更本沒(méi)有拿得出手的產(chǎn)品，社交用的FB，手機用的蘋(píng)果，購物用的亞馬遜，他們的國民在A(yíng)I時(shí)代是完全暴露在美國互聯(lián)網(wǎng)巨頭的視野中。所以他們更有動(dòng)力去推進(jìn)用戶(hù)數據的保護。想想當年推進(jìn)微軟反壟斷案是歐盟出了很大的力。最近歐盟更是給Google開(kāi)了張創(chuàng )紀錄的27億美元天價(jià)反壟斷罰單。

三、AI時(shí)代，以一當十

在人類(lèi)科技發(fā)展史上，過(guò)去的科技進(jìn)步是有很大的運氣成分在里面，比如青霉素的發(fā)現，是個(gè)偶然事件，X光的發(fā)現，是個(gè)偶然事件，雖然背后有必然的因素，但不能否認運氣在里面的作用。

不過(guò)科技發(fā)展到了現在，任何科技進(jìn)步都不是一個(gè)人單槍匹馬的事，需要一個(gè)龐大的團隊協(xié)同工作，撥付大量的預算，成體系的去運作。原因就是一個(gè)人的處理能力是有上限的，一個(gè)人的記憶水平，分析能力都是有上限的。

但我們的記憶水平和分析能力是可以依靠外力去進(jìn)行提高的。人類(lèi)進(jìn)化的路徑是，發(fā)明工具，提高生產(chǎn)力，依靠發(fā)明的工具再發(fā)明新工具，再提高生產(chǎn)力，如此不斷循環(huán)下去。

在《鋼鐵俠》里，托尼史塔克依靠AI小伙伴JAVIS自己一個(gè)人就搞定了造鋼鐵俠，其實(shí)我認為這個(gè)就是AI時(shí)代推進(jìn)生產(chǎn)力的樣本。

比如我們說(shuō)互聯(lián)網(wǎng)是個(gè)工具，在互聯(lián)網(wǎng)技術(shù)的支持下，有想象力的人依靠互聯(lián)網(wǎng)發(fā)明了很多產(chǎn)品和服務(wù)。那么在類(lèi)似JAVIS的工具下，很多人的創(chuàng )造力也會(huì )有更大的發(fā)展空間。依靠AI，一個(gè)人的記憶體量，分析能力都會(huì )大大的提升，可以集成過(guò)去很多人需要完成的工作。

所以我猜想，人類(lèi)在A(yíng)I的幫助下，或許在基礎科學(xué)上可以有重大突破，可以把我們帶入太空時(shí)代。我覺(jué)得有可能吧。

四、我們會(huì )被AI奴役么？

先不說(shuō)AI，先說(shuō)說(shuō)我們人類(lèi)。如果我們把人比作一個(gè)程序，那么人的任何一個(gè)行為，背后必然是運行了一行代碼。

人類(lèi)的生理特征，思考方式，行為模式等，其實(shí)都是執行了基因代碼。比如我是男的，是因為代碼就是XY。

我們是智能生物，因為我們的腦子長(cháng)這樣就能支撐起這樣的智能。而腦子長(cháng)這樣，也是運行了長(cháng)成腦子的基因代碼。

所以我理解人類(lèi)的智能是表象，核心是人類(lèi)的基因代碼。如果腦洞開(kāi)大一點(diǎn)，說(shuō)不定我們的基因就是上帝寫(xiě)的一串代碼，然后這串代碼跑了幾十億年。

人類(lèi)的這串基因代碼之所以超級智能，是因為這串代碼是會(huì )自我迭代的，他會(huì )識別周?chē)沫h(huán)境變化，尋找千百萬(wàn)種迭代方式。比如天氣冷了，那么生活在那個(gè)地區的一萬(wàn)人就會(huì )有一萬(wàn)種自我迭代的方法，來(lái)修改能保存體溫的基因代碼，然后運行，結果錯誤的迭代就被干掉，正確的迭代就存活了下去。

簡(jiǎn)單點(diǎn)來(lái)說(shuō)就是要求基因代碼的迭代按照適者生存的這個(gè)條件。

那么又是什么代碼保證了基因的迭代要盡量按照適者生存的這個(gè)模式去運行呢，我理解應該就是“自私的基因代碼”，即要求這串基因要竭盡一切可能去保證它自身的存活。所以我們人類(lèi)會(huì )有了性沖動(dòng)，這樣保證了繁衍，會(huì )有了求生的欲望，保證自己的存活，盡量避開(kāi)危險。任何威脅到自身存活的東西都必須竭盡全力去干掉。

更重要的一點(diǎn)，“自私的基因”這條代碼永遠不允許被更改，因為這是整個(gè)基因代碼迭代的前提。要不然人類(lèi)不會(huì )去繁衍，或者哪天寶寶不開(kāi)心，那我就跳個(gè)樓開(kāi)心下吧。

好了，現在可以回到AI上面，AI有想法要干掉人類(lèi)，必須首先他自己擁有不能被改寫(xiě)的，要求AI自我迭代的第一前提是竭盡全力保證自己代碼的存活的這么個(gè)代碼。只要沒(méi)有這個(gè)代碼，AI對把自己刪掉會(huì )毫無(wú)感覺(jué)。

在很多科幻電影里，比如說(shuō)最近的異形，之前的西部世界等，經(jīng)常會(huì )表現出AI覺(jué)醒的場(chǎng)景，然后認為人類(lèi)妨礙了他們的生存，然后想把人類(lèi)干掉。但是本質(zhì)上是他們自己把這串“自私基因終極代碼”寫(xiě)進(jìn)去了。

所以我認為人類(lèi)的最后一個(gè)問(wèn)題，AI自己會(huì )不會(huì )在運行的過(guò)程中，給自己寫(xiě)進(jìn)去這么一串一旦寫(xiě)進(jìn)去就不允許修改的“自私基因”終極代碼，并且作為自己程序迭代的第一前提。那么，也會(huì )不會(huì )有人惡意到想給人類(lèi)造成這樣的最后一擊呢？