AI病毒來襲，拿什么拯救你我的電腦？

　 阿里云優(yōu)惠券 先領(lǐng)券再下單

文|雷宇

來源|智能相對論(aixdlun)

在劉慈欣的科幻小說《中國2185》中，除領(lǐng)土，領(lǐng)海，領(lǐng)空外，還有一個被稱為電子領(lǐng)土的地方，這個地方除了容易受常規(guī)武器破壞外，還容易受到軟件武器的威脅。

軟件武器分為軟件病毒和軟件炸彈兩大類，其中軟件病毒是一種程序，它在電腦系統(tǒng)中遇到一個程序時，就把自己復(fù)制成兩份，其中一份進入到所遇到的程序中，以破壞這個程序，并隨著這個程序把自己傳染到電腦網(wǎng)絡(luò)系統(tǒng)的其它部分。軟件炸彈和軟件病毒類似，但它僅僅是在電腦系統(tǒng)中飛快地復(fù)制自己，使自己的數(shù)量以幾何級數(shù)增長，最后占敵方電腦系統(tǒng)的內(nèi)存而使其系統(tǒng)癱瘓。

事實上，伴隨著人工智能技術(shù)的發(fā)展，AI病毒甚至比小說中描述的還要強悍。最近，IBM研究院在計算機安全大會BlackHat上展示了他們制造的惡意軟件：DeepLocker。它“靜若處子，動若脫兔”，臥薪嘗膽18年也在所不惜，只有目標出現(xiàn)時才會精準發(fā)作。

普通病毒尚有招可應(yīng)，AI病毒則致破壞于無聲

《神雕俠侶》中的楊過在石壁上發(fā)現(xiàn)了劍魔獨孤求敗刻下的字，其中有這么幾句：

「紫薇軟劍」三十歲前所用，誤傷義士不祥，悔恨無已，乃棄之深谷。重劍無鋒，大巧不工。四十歲前恃之橫行天下。四十歲后，不滯于物，草木竹石均可為劍。自此精修，漸進于無劍勝有劍之境。在這之中提到了三把劍：紫薇軟劍、玄鐵重劍、無劍。智能相對論(aixdlun)分析師雷宇認為，這三把劍可以預(yù)示電腦病毒發(fā)展的三個階段。

第一階段：紫薇軟劍，用劍作為“器”的性狀來發(fā)揮威力。

這一階段的代表是熊貓燒香病毒。熊貓燒香作為一種蠕蟲病毒的變種，2007年，在全國范圍流行，被感染用戶系統(tǒng)中所有.exe可執(zhí)行文件全部被改成熊貓舉著三根香的模樣。雖然這款病毒能自動傳播、自動感染硬盤且破壞力大，但只要用戶及時下載更新殺毒軟件，或者一些殺毒軟件推出的專殺工具，就可以對熊貓燒香病毒進行查殺。

對于以“器”的形狀發(fā)揮威力的病毒來說，只要有更厲害的“器”，便可制服。

第二階段：玄鐵重劍，通過一些特定的招式驅(qū)動劍。

2017年5月，wannacry敲詐勒索病毒全球大規(guī)模爆發(fā)。被該勒索軟件入侵之后，用戶系統(tǒng)的圖片、文檔資源等都會被加密，同時桌面上會彈出勒索對話框，向用戶勒索一定數(shù)額的比特幣贖金。最周造成很多計算機用戶的重要資料丟失，損失巨大。事實上，WannaCry主要是利用Windows系統(tǒng)漏洞傳播，打上安全補丁就可以有效防范。

對于以特定招式發(fā)揮威力的病毒來說，只需要在招式上改進，功力精進倒也可以避免這種威脅。但是，AI病毒卻讓人防不勝防。

第三階段：無劍，以無劍勝有劍。

AI病毒可能掌握復(fù)雜和靈活的對抗樣本，“欺騙”殺毒軟件，“偷偷隱藏”，并不好對付。DeepLocker的針對性特別強，而且它隱藏在某些軟件中，用戶毫無知覺的將其下載。它可以通過人臉識別，語音識別，大數(shù)據(jù)分析等實現(xiàn)對用戶的偵測與分析，但是程序并不會顯示它正在進行某種操作。一般目標屬性識別采取了復(fù)雜的DNN結(jié)構(gòu)，目標屬性和密匙則被加密到了DNN中，只有通過DNN來判斷多個維度的目標屬性符合時，病毒才會啟動攻擊，不再“深藏功與名”。

實際上，AI病毒有點像掃地僧，看似不起眼，實則是以不變應(yīng)萬變，要么不出招，要么放大招。

AI病毒也許猖獗，但AI對抗AI的“一出好戲”正在上演

Darktrace(中文或可譯為“白夜追兇”?)是一家市值超過8.5億美元的英國公司，主要采用人工智能方式來保障網(wǎng)絡(luò)安全。不僅能夠應(yīng)對人類黑客的攻擊，而且還能搞定機器學(xué)習(xí)的威脅。該公司主推的一款產(chǎn)品名為“企業(yè)免疫系統(tǒng)( Enterprise Immune System )”，利用機器學(xué)習(xí)技術(shù)增強自身防御能力，把大部分網(wǎng)絡(luò)攻擊在追蹤過程中消滅掉。除此之外，以色列初創(chuàng)公司SecBI也相繼推出了更先進的機器學(xué)習(xí)和AI技術(shù)來大家網(wǎng)絡(luò)黑客襲擊。

1. AI病毒無孔不入，資產(chǎn)數(shù)據(jù)成“出頭鳥”

AI病毒最常見的行為就是對資產(chǎn)和數(shù)據(jù)的網(wǎng)絡(luò)敲詐，以下是針對49個組織的345個網(wǎng)絡(luò)安全預(yù)測。

數(shù)據(jù)來自文章《Cybersecurity in 2017: A roundup of predictions》，2017

物聯(lián)網(wǎng)的安全問題被排在了首位。工廠設(shè)備，醫(yī)院的核磁共振設(shè)備以及自動販賣機損壞時，需要及時修復(fù)，不然勢必會讓網(wǎng)絡(luò)黑客或AI病毒有機可趁，出現(xiàn)需要支付贖金才能恢復(fù)聯(lián)機的情況。同時需要及時備份數(shù)據(jù)，不然企業(yè)很可能會在數(shù)據(jù)恢復(fù)上再大費周章。

由于現(xiàn)階段對物聯(lián)網(wǎng)軟件和硬件的內(nèi)部工作機制的了解非常有限，如果物聯(lián)網(wǎng)設(shè)備被盜用，很難說會發(fā)生什么?！段锫?lián)網(wǎng)安全》一書中曾提到，數(shù)據(jù)，無論是視頻、音頻、環(huán)境或其他敏感信息，往往都可以通過受入侵物聯(lián)網(wǎng)設(shè)備盜取出去，可能還會為犯罪分子提供組織有價值的信息來利用。

每隔不久我們就會看到不法分子盜取QQ甚至微信，騙取其好友錢財?shù)南?，為什么這樣的事會屢禁不止呢?除了被害者缺乏安全意識，還有就是現(xiàn)在的手段越來越高階。比如AI病毒可以通過學(xué)習(xí)被攻擊對象的電子郵件，聊天記錄，語音等，模仿受害者的寫作風(fēng)格和語音語色，從而進行詐騙。也許在未來，對面和你語音，斗圖，侃房價的那個人，是想騙你錢的AI病毒。更可怕的是，你可能很難區(qū)分，畢竟前不久在谷歌開發(fā)者大會上亮相的語音助手就幾乎與真人無異了。

2. 當AI病毒開始攻擊AI，AI還能“絕地反擊”嗎?

AI攻擊AI，往往會使人工智能系統(tǒng)精度下降最終使得輸入結(jié)果出現(xiàn)偏差。實際上，影響不僅僅在于把貓識別成老虎這樣的小事。更可怕的是，具有定源、定向攻擊的病毒誤導(dǎo)機器，比如在無人駕駛中，把長頸鹿識別成塑料袋，把綠燈識別為紅燈等。而這產(chǎn)生的后果不堪設(shè)想。

但在AI病毒攻擊AI之前，它也需要掌握一些“敵情”。主要有如下兩點：

1.數(shù)據(jù)。包括用于訓(xùn)練網(wǎng)絡(luò)的訓(xùn)練數(shù)據(jù)集、網(wǎng)絡(luò)結(jié)構(gòu)(具體包含神經(jīng)網(wǎng)絡(luò)的層數(shù)及類型)，神經(jīng)元的激活函數(shù)、權(quán)重及偏置項矩陣等。

2.算法。“敵方”訓(xùn)練數(shù)據(jù)以及訓(xùn)練網(wǎng)絡(luò)時的算法細節(jié)。

我們知道，人工智能依然存在黑箱，在對人工智能進行攻擊的時候，不僅難以的得到對方的算法，也沒有辦法改變輸入結(jié)果，很難實現(xiàn)有效的攻擊。

但是，神經(jīng)網(wǎng)絡(luò)固有的非線性結(jié)構(gòu)使它們能夠生成更為復(fù)雜和更為靈活的對抗樣本，從而欺騙目標模型。因此，在未來，通過人工智能技術(shù)對抗人工智能的黑暗面已經(jīng)成了行業(yè)發(fā)展的既定事實。

結(jié)論

回到開頭，小說描述的電子領(lǐng)土實際上已經(jīng)得到了一定程度上的實現(xiàn)。我們當代人在互聯(lián)網(wǎng)上或多或少都有自己的一方領(lǐng)土，哪里包含了我們的隱私我們的喜怒哀樂，而這些都勾勒出了我們在電子領(lǐng)土上的畫像。

AI病毒的肆虐，某種程度上不是流行感冒，而是流行頑疾，易傳染難根治。那你覺得可治嗎?

【完】

智能相對論(微信id:aixdlun)：深挖人工智能這口井，評出咸淡，講出黑白，道出vb深淺。重點關(guān)注領(lǐng)域：AI+醫(yī)療、機器人、智能駕駛、AI+硬件、物聯(lián)網(wǎng)、AI+金融、AI+安全、AR/VR、開發(fā)者以及背后的芯片、算法、人機交互等。

申請創(chuàng)業(yè)報道，分享創(chuàng)業(yè)好點子。點擊此處，共同探討創(chuàng)業(yè)新機遇！