5月16日，在第三屆世界智能大會(huì )上，360董事長(cháng)兼CEO周鴻祎發(fā)表演講。周鴻祎表示，最近發(fā)生的三件與人工智能有關(guān)的事情，揭示了人工智能的安全隱憂(yōu)。

周鴻祎說(shuō)，講這三件事并非貶低人工智能，恰恰相反，關(guān)注安全有利于人工智能更好地發(fā)展。因為只有安全的信息化，才會(huì )給人民帶來(lái)安心和幸福的信息化。

無(wú)人值守系統里的“最后控制權之爭”

周鴻祎提到的第一件事是波音737MAX墜機事件。近期，737MAX型飛機在過(guò)去六個(gè)月內發(fā)生兩次墜毀事故，原因為其飛行控制系統的嚴重安全風(fēng)險。

周鴻祎自稱(chēng)非航空專(zhuān)家但也看到兩個(gè)問(wèn)題，一是系統設計得再完美，一旦傳感器出錯，就會(huì )影響飛行控制系統的判斷，繼而“犯錯”。二是當計算機出錯后，究竟是聽(tīng)計算機的還是駕駛員的？

“大家都應該思考這個(gè)問(wèn)題”，周鴻祎說(shuō)，在將來(lái)無(wú)人車(chē)、無(wú)人工廠(chǎng)、無(wú)人碼頭等眾多無(wú)人值守系統里，當我們沒(méi)有很大把握的情況下，在傳感器誤報、數據被污染的情況下，最后的控制權和決定權應該留給機器還是人？

人工智能時(shí)代的“暢銷(xiāo)服裝”

周鴻祎講的第二件事從“逃犯克星張學(xué)友”說(shuō)起，據悉，因為張學(xué)友演唱會(huì )現場(chǎng)的“人臉識別”技術(shù)，警察輕松抓獲多名在場(chǎng)逃犯。

不過(guò)，周鴻祎提醒大家不要只覺(jué)得人臉識別厲害，這一技術(shù)本身也存在先天缺陷：黑客們通過(guò)研究發(fā)現，只要把一種奇怪的條紋打印下來(lái)，別在衣服上，就能“屏蔽”掉人臉識別系統，出入自由。

“這種衣服可能會(huì )很暢銷(xiāo)”，周鴻祎不忘在演講中調侃。他認為，這還只是不太嚴重的情況。以小見(jiàn)大，一些無(wú)人駕駛的汽車(chē)，可能會(huì )被馬路上‘奇怪’的符號誤導，導致嚴重的交通事故。

為了杜絕這種情況，周鴻祎建議企業(yè)在上線(xiàn)系統前，應做好安全檢測，做好“實(shí)網(wǎng)攻防”。“要用實(shí)際的攻擊發(fā)現問(wèn)題，而非靠靜態(tài)的研究證明系統的安全”，周鴻祎還為公司“打廣告”：“一定要找我們這些天天吃飽沒(méi)事干的‘黑客公司’來(lái)幫大家做實(shí)際的攻防，在我們手里發(fā)現問(wèn)題，比在實(shí)踐中發(fā)現問(wèn)題可能要好一些。”

周鴻祎為何調侃劉慶峰？

“我要攻擊劉慶峰”，談到第三件事時(shí)，周鴻祎開(kāi)門(mén)見(jiàn)山，調侃科大訊飛劉慶峰。據悉，去年人工智能大會(huì )期間，兩人埋下了“吃包子”的恩怨，劉慶峰爆料周鴻祎在最近的活動(dòng)中連續吃了11個(gè)天津狗不理包子。

不過(guò)，“吃包子”恩怨是假，擔憂(yōu)人工智能是真。周鴻祎指出，去年劉慶峰在演講中播放了用人工智能“偽造” 的視頻，引發(fā)了他的思考。他在演講中提醒大家：最近，國外已經(jīng)有人利用人工智能將不雅視頻里的女主角換成女明星。這一技術(shù)正引發(fā)恐慌，遭到該國政府查封。

“我今天已經(jīng)不相信朋友圈里的美女了”，周鴻祎說(shuō)，如果這種工具降低了每個(gè)人的做假成本，就可能會(huì )出現假新聞、假名人視頻。這顛覆了我們過(guò)去“百聞不如一見(jiàn)”的固有觀(guān)念，甚至會(huì )在關(guān)鍵時(shí)刻帶來(lái)混亂。

“新加坡正在制定相應的法律”，周鴻祎呼吁我國也應加強對該類(lèi)問(wèn)題的重視，防止這樣的“工具”流傳，引發(fā)一系列道德倫理問(wèn)題。

本文來(lái)源：騰訊科技