醫(yī)療手術(shù)、無人駕駛、圍棋對(duì)弈、隨手可用的翻譯……近十年來，人工智能（AI）取得了巨大進(jìn)步。而這，要得益于人工神經(jīng)網(wǎng)絡(luò)的發(fā)展。

這一神經(jīng)網(wǎng)絡(luò)的模式，效仿的是我們?nèi)祟惖拇竽X，在大規(guī)模應(yīng)用時(shí)，也被稱為深度學(xué)習(xí)，其能夠自己發(fā)現(xiàn)數(shù)據(jù)的模式，而無需明確指令。

深度學(xué)習(xí)雖然可以在大數(shù)據(jù)訓(xùn)練中學(xué)到正確的工作方法，卻也很容易受到惡意干擾。攻擊者們通常會(huì)通過輸入惡意數(shù)據(jù)來欺騙深度學(xué)習(xí)模型，導(dǎo)致其出現(xiàn)嚴(yán)重故障。

面對(duì)惡意算法欺騙，人工智能如何反擊？英國(guó)《自然》網(wǎng)絡(luò)版日前的報(bào)道稱，現(xiàn)在，計(jì)算機(jī)科學(xué)家正在多方尋找對(duì)策，以便讓人工智能更安全。

AI：我因“學(xué)習(xí)”而受傷

“學(xué)習(xí)”，是人工智能的核心，也是使計(jì)算機(jī)具有智能的根本途徑。

深度學(xué)習(xí)的主旨，是讓計(jì)算機(jī)去模擬或?qū)崿F(xiàn)人類的學(xué)習(xí)行為，以獲取新的知識(shí)或技能，并重新組織已有的知識(shí)結(jié)構(gòu)，使之不斷改善自身的性能。

但同時(shí)，深度學(xué)習(xí)算法的不可預(yù)測(cè)性，使其需要不斷挖掘。

對(duì)于家庭和個(gè)人手機(jī)來說，虛擬智能化助理的應(yīng)用越普遍，惡意攻擊就越可能隨時(shí)發(fā)生。有些信息眼看、耳聽都沒有問題，卻能“暗藏殺機(jī)”——隱藏著劫持設(shè)備的指令。

舉例來說，人工智能“看”圖像的模式，和人類的肉眼大不一樣。通過微妙改變圖像的某些部分，再輸入后的圖片即使肉眼看來一模一樣，計(jì)算機(jī)看起來卻大不相同。這就叫對(duì)抗性示例。

除了圖像，聲音也會(huì)有同樣的問題，只要修改了一個(gè)語(yǔ)音片段，人工智能就可能修改成*不同的語(yǔ)音指令。

無需隱身，也能抓住攻擊者

不過，在不久前召開的學(xué)習(xí)表征會(huì)議（ICLR）上，美國(guó)伊利諾伊大學(xué)香檳分校的計(jì)算機(jī)科學(xué)家拿出了一種對(duì)抗攻擊的方法。

他們編寫的算法可以轉(zhuǎn)錄完整的音頻以及單個(gè)片段。如果單個(gè)片段轉(zhuǎn)錄出來和完整音頻中的對(duì)應(yīng)部分不*匹配，那么算法會(huì)立即用一面小紅旗做出標(biāo)記，表明音頻樣本可能已遭攻擊。