蓋世汽車訊 深度神經(jīng)網(wǎng)絡(luò)是用于各種分類問題的機(jī)器學(xué)習(xí)算法的一個子集，包括圖像識別和機(jī)器視覺（由自動駕駛汽車和其他機(jī)器人使用）、自然語言處理、語言翻譯和欺詐檢測。但心懷不軌的人可能會修改輸入，并使得算法運行錯誤。據(jù)外媒報道，為保護(hù)算法免受此類攻擊，密歇根大學(xué)（University of Michigan）的研究人員開發(fā)出強(qiáng)大的對抗性免疫啟發(fā)學(xué)習(xí)系統(tǒng)（Robust Adversarial Immune-inspired Learning System，RAILS）。

圖片來源：密歇根大學(xué)

John H. Holland杰出教授、研究員之一Alfred Hero表示：“RAILS是第一種以適應(yīng)性免疫系統(tǒng)為模型的對抗性學(xué)習(xí)方法，該系統(tǒng)與先天免疫系統(tǒng)的運作方式不同?！?/p>

當(dāng)先天免疫系統(tǒng)對病原體進(jìn)行全面攻擊時，哺乳動物的免疫系統(tǒng)可以產(chǎn)生新的細(xì)胞來抵御特定的病原體。事實證明，受到大腦信息處理系統(tǒng)啟發(fā)的深度神經(jīng)網(wǎng)絡(luò)也可以利用這一生物過程。

計算醫(yī)學(xué)和生物信息學(xué)副教授、該研究的共同負(fù)責(zé)人Indika Rajapakse說：“免疫系統(tǒng)設(shè)計令人驚嘆，它總能找到解決方案?！?/p>

圖片來源：密歇根大學(xué)

RAILS通過模仿免疫系統(tǒng)的自然防御來識別并最終處理神經(jīng)網(wǎng)絡(luò)的可疑輸入。 起初為了開發(fā)，生物團(tuán)隊對小鼠的適應(yīng)性免疫系統(tǒng)如何對抗原作出反應(yīng)進(jìn)行了研究。該實驗使用了在B細(xì)胞上表達(dá)熒光標(biāo)記的轉(zhuǎn)基因小鼠的組織。

該團(tuán)隊通過將脾臟細(xì)胞與骨髓細(xì)胞一起培養(yǎng)，創(chuàng)建了一個免疫系統(tǒng)模型，代表了免疫系統(tǒng)的總部和要塞。該系統(tǒng)使生物團(tuán)隊能夠跟蹤B細(xì)胞的發(fā)育，這開始便是一種試錯法來設(shè)計與抗原結(jié)合的受體。一旦B細(xì)胞聚集在一個解決方案上，它們就會產(chǎn)生漿B細(xì)胞以捕獲存在的所有抗原，并產(chǎn)生記憶B細(xì)胞以準(zhǔn)備下一次攻擊。

當(dāng)時的生物信息學(xué)博士生Stephen Lindsly對Rajapakse實驗室產(chǎn)生的信息進(jìn)行了數(shù)據(jù)分析，并擔(dān)任生物學(xué)家和工程師之間的翻譯。Hero的團(tuán)隊隨后在計算機(jī)上模擬了該生物過程，將生物機(jī)制融入代碼中。他們用對抗性輸入測試了RAILS防御。然后，他們將B細(xì)胞學(xué)習(xí)攻擊抗原的學(xué)習(xí)曲線與學(xué)習(xí)排除不良輸入的算法進(jìn)行了比較。

Hero表示：“在我們將RAILS的學(xué)習(xí)曲線與從實驗中提取的曲線進(jìn)行比較之前，我們不確定我們是否真的捕捉到了生物過程?！?/p>

RAILS不僅是一種有效的仿生學(xué)，而且優(yōu)于用于對抗對抗性攻擊的兩種最常見的機(jī)器學(xué)習(xí)過程：穩(wěn)健的深度k近鄰（Deep k-Nearest Neighbor）和卷積神經(jīng)網(wǎng)絡(luò)。

圖片來源：密歇根大學(xué)

主要負(fù)責(zé)軟件開發(fā)和實施的電氣和計算機(jī)工程研究員Ren Wang表示：“這項工作的重要部分是我們的通用框架可以防御不同類型的攻擊?！?/p>

研究人員使用圖像識別作為測試用例，針對多個數(shù)據(jù)集中的八種對抗性攻擊評估 RAILS。它在所有情況下都顯示出改進(jìn)，包括防止最具破壞性的對抗性攻擊類型：投影梯度下降（Projected Gradient Descent）攻擊。此外，RAILS提高了整體精度。例如，它可以正確識別雞和鴕鳥的圖像，而此前其他系統(tǒng)會將這兩種圖像識別為貓和馬。

未來，Hero團(tuán)隊將致力于把響應(yīng)時間從毫秒級縮短到微秒級。

返回第一電動網(wǎng)首頁 >