雷鋒網按：2020 年 8 月 7 日，全球人工智能和機器人峰會（CCF-GAIR 2020）正式開幕。CCF-GAIR 2020 峰會由中國計算機學會（CCF）主辦，香港中文大學（深圳）、雷鋒網 ( 公眾號：雷鋒網 ) 聯(lián)合承辦，鵬城實驗室、深圳市人工智能與機器人研究院協(xié)辦。

8 月 8 日，本次峰會智能駕駛專場上，是騰訊產業(yè)安全運營部總經理呂一平為與線上線下的會者們帶來了一場 " 安全左移，智能網聯(lián)安全從研發(fā)做起 " 的精彩報告。

呂一平強調，信息安全應該成為智能網聯(lián)汽車安全管理非常重要的一個部分。

呂一平提到，汽車信息安全領域現(xiàn)在還沒有很好的測評體系，對車的安全來講，一個維度是設計安全，整個選型的時候需有必要的安全考量。如果設計階段就可以考慮更多安全因素的話，就可以規(guī)避很多安全問題，而且解決安全問題的成本會比較低。

以下是呂一平的演講全文，雷鋒網新智駕進行了不改變原意的編輯：

大家如果對我們了解不是很深入的話，電影《速度與激情 8》可以給大家更直觀的感受，其中很多車輛可以被黑客控制，這就是未來的信息安全。當我們把汽車的控制權交給系統(tǒng)以后，信息安全就給車輛帶來了挑戰(zhàn)。

過去我們分享了很多信息安全對車輛的重要性的觀點，今天就不重復了。首先我要明確一個觀點：汽車是對質量、品質等把控非常嚴謹?shù)男袠I(yè)，新技術在汽車上的應用情況一定是技術先行，然后國家相關的規(guī)范、標準才緊隨其后，最后才是合規(guī)性的認證等流程。

簡言之，技術應用一定是比規(guī)范、標準和認證更超前。

對信息安全、或者對網絡安全來講，在汽車領域又是一個新領域，因此其技術也會比規(guī)范更超前。

那么，我們如何把信息安全作為質量控制的一部分納入質量管理體系里面？

我認為信息安全是整車、甚至是智能駕駛的一個體系。剛剛滴滴也提到，在滴滴整個自動駕駛框架里面，信息安全也是很重要的一部分。

高度智能化與網聯(lián)化的高安全需求

我今天的演講主題為什么是 " 安全左移 "？

很多汽車專家都在問同樣的問題—如何用更小的代價、更可控的成本和投入來解決信息安全問題、從而確保車聯(lián)網引入自動駕駛之后是安全的。

所以，我今天帶來了我們自己的一些觀點和大家分享。

目前在汽車信息安全領域還沒有很好的測評體系，我們再做了大量研究和實踐以后總結出了自己的體會和心得：對于汽車的安全來講，一個維度是設計安全，整個選型的時候要有安全的考量。另一個維度是汽車研發(fā)。

值得一提的是，現(xiàn)在汽車研發(fā)分兩個部分，越來越多 OEM 團隊做自己軟件的代碼，以及目前很火的軟件定義汽車。

無論是國際車廠和國內車廠，他們都成立了軟件公司或者軟件開發(fā)子公司，目前已經形成了這樣的趨勢，就是 Tir1 的研發(fā)工作逐漸轉移到 OEM 身上。

那么，我們在和他們合作的過程中發(fā)現(xiàn)，很多問題和設計相關，也與工程實踐相關。

如何提升智能網聯(lián)的設計和工程實踐呢？

從上圖可以看出，如果在設計層面、實踐層面做的好的話，車輛的信息安全方面就會更安全一些。

更重要的是，安全領域有一個理念，如果設計階段就可以考慮更多安全因素的話，就可以規(guī)避很多安全問題，同時解決安全問題的成本會比較低。

對于一輛汽車而言，不管是車端、云端還是移動端，都存在大量入口。以前汽車沒有這些問題，因為汽車最開始跟互聯(lián)網沒有任何聯(lián)系，也沒有接口可以跟世界做交互。

為什么汽車現(xiàn)在成為了我們的關注點呢？

因為現(xiàn)在一輛車上有太多的接口，不管是遠距的接口，還是物理的接口，都會跟世界產生聯(lián)系。

比如說從 WIFI 到藍牙、很多遠距的接口和物理的接口，以及通過充電樁進行交互，甚至包括 L2、L2+ 自動駕駛系統(tǒng)，以及現(xiàn)場專家提到的車路協(xié)同，目前都跟車有了很多交互。

入侵特斯拉引發(fā)的幾點思考

其實，上述這些 " 點 " 也成為攻擊車輛、讓車輛產生信息安全問題的入口。騰訊安全科恩實驗室在過去幾年通過大量接口，比如在 3G、4G 網絡上和 ADAS 上，都證明了這些對外交互的接口可以對車輛信息安全造成影響。

例如，2016 年我們第一次研究了特斯拉并公布了成果，這也是一系列安全問題造成的結果。

因為特斯拉是比較早引入了軟件定義汽車架構的 OEM，其絕大部分代碼都是自研，但特斯拉在 2016 年出現(xiàn)的設計問題偏多。

具體包括，在未經通過授權的遠程控制當中可以看到瀏覽器的版本很低，以及系統(tǒng)內核也存在了很多系統(tǒng)漏洞等問題。

值得一提的是，OTA 對固件完整性和安全性的校驗是非常重要的，但是 2016 年特斯拉沒有加入這個強校驗，導致最后我們可以替換特斯拉車聯(lián)網關的物件，最終我們可以向特斯拉總線發(fā)送各種控制命令，導致了特斯拉的問題。

這些問題如果在設計階段就考慮的話，其實是可以規(guī)避的。

當然特斯拉有一個好處，他們比較早的考慮到了可以通過設計技術來升級軟件，同時他們都是自研大部分軟件。

2016 年我們向特斯拉報告這些問題以后，他們快速的把這些缺陷都彌補了，比如把瀏覽器升級到了最新、內核也進行了升級，以及在網關 OTA 也進行了代碼簽名，以此能夠保證在任何一個 OTA 的時候有一個強安全校驗來保證安全性。

在我們安全領域有句俗語，" 道高一尺、魔高一丈 "。意思是安全圈子里面各有各的能力和手段。

因此，我們接下來繼續(xù)對特斯拉進行深入分析以后，在其代碼實現(xiàn)層面上又發(fā)現(xiàn)了新的問題，并且發(fā)現(xiàn)了特斯拉自己都沒有發(fā)現(xiàn)的漏洞。

特斯拉在網關上雖然增加了簽名校驗，但是在工程實踐上的邏輯是有問題的。

更有意思的是，特斯拉在 2016 年和 2017 年最大的區(qū)別就是，2016 年沒有考慮到設計層面的問題，到了 2017 年，其在設計層面已經做的非常好了，但是在工程實踐上又有小問題出現(xiàn)。

2020 年，特斯拉的整體能力與 2017 年相比又有了很大的進步?，F(xiàn)在他們是不僅在安全設計角度已經做的很好，在工程實踐角度也做得很好，這是值得中國汽車從業(yè)人員參考的。

總結可以發(fā)現(xiàn)，一方面是軟件定義汽車的比重越來越高，另一方面是隨著自動駕駛體系的引入，當真正要把駕駛決策交給系統(tǒng)的時候，期待的是它要比人更安全。但如果信息安全沒有做好的話，不一定會比人的決策更安全。

2019 年我們做了一個和自動駕駛相關的研究，如果自動駕駛系統(tǒng)出現(xiàn)問題的話，會有什么危害？

看了視頻之后大家就有比較直觀的感覺，里面涉及兩類問題，一類是自動駕駛與人工智能算法對抗，另一類是車道識別。

當然特斯拉也有炫技部分，其中前置攝像頭可以感知車道線，此外特斯拉全視覺的高級輔助駕駛方案沒有涉及到毫米波雷達、激光雷達等傳感器。

不過，我們研究了他們的算法和神經網絡以后，在地面上布置了幾個干擾點，就可以引領他們進入錯誤的車道。這也涉及到人工智能算法決策的對抗技術。

日前，一輛特斯拉 Model 3 在臺灣高速公路上直接撞向了一輛側翻在地的廂式貨車。事故發(fā)生當時前方的白色卡車是橫向插入特斯拉所在車道。事故發(fā)生前，這輛特斯拉 Model 3 開啟了自動輔助駕駛，但駕駛員沒有專注前方道路，因此造成事故發(fā)生。也就是說，特斯拉自動駕駛的傳感器并沒有發(fā)現(xiàn)前方有一輛側翻的貨車。

通過對特斯拉的研究發(fā)現(xiàn)，在安全領域又有一個新的攻擊角度，就是特斯拉上面的 APE 模塊，這本身是跟互聯(lián)網發(fā)生交互的。因為車輛是聯(lián)網的，如果我們把自動駕駛的角色搞定之后，通過一個游戲機的手柄就可以控制車輛。

那么，我們在算法層面上如何更安全、又如何規(guī)避更多的樣本對抗問題？如何保證自動駕駛系統(tǒng)安全可以做的更好？

當我們把這些問題報給特斯拉以后，比如系統(tǒng)安全的問題，特斯拉很快給了回應，稱很好解決。在我們報告問題一個月之后，特斯拉官網就做了調整，他們就自動駕駛算法、樣本對抗修復的過程與我們進行了溝通。

與此同時，特斯拉也給了一種說法，啟動 L2 級自動駕駛時，駕駛員的手不能脫離方向盤，要高度保持關注度。當然，這是他們看到我們報告的問題之后進行的策略調整。

智能網聯(lián)汽車的安全問題

當自動駕駛引入以后，特別是算法層面的問題，其修復成本和代價會變高。因為，調整算法意味著要重新采集數(shù)據(jù)、重新做數(shù)據(jù)訓練、重新做仿真、路測，最后再做驗證算法。

剛才滴滴也提到了安全問題，但是他們關注的是行駛安全，我們把駕駛交給系統(tǒng)以后，對算法進行任何的調整，都要進行大量的實踐。

所以，在自動駕駛系統(tǒng)設計階段，安全性的考量會變的更加重要，如果在設計階段我們不去考慮這些問題，應用之后再做修復和調整的話，代價會比系統(tǒng)級帶來的安全問題更高。

對于智能網聯(lián)汽車而言，常見的問題有：

如上圖所示，越往左邊，整個設計架構能夠解決的問題，大家在設計的時候就盡量要考慮這些問題、并且解決掉。右邊的是比較困難的，可以選擇在工程實踐階段解決這些問題。

簡言之，在設計方面解決的問題越多，成本就會越低。

如果在設計層面把安全做好，對于自動駕駛而言就是原生安全。

對于汽車而言，是一個碎片化非常嚴重的行業(yè)。面對價格體系千差萬別的汽車行業(yè)，要把重點要放在人身安全上。

那么，如何保證人身安全？

目前的自動駕駛汽車操作系統(tǒng)不統(tǒng)一，硬件也不統(tǒng)一，整個供應鏈也處于非常碎片化、甚至非常復雜的階段。此外，它不可能像 PC 和移動一樣有通用的操作系統(tǒng)。

在我們看來，如果在設計階段，自動駕駛系統(tǒng)本身安全性做的很好的話，就可以解決該問題。

針對上述問題，如何應對和實踐就變得非常重要。

自動駕駛信息安全問題要如何解決

首先，在研發(fā)階段引入更多的工具來解決這個問題，該措施在互聯(lián)網領域已經使用很多了，比如可以通過監(jiān)控來解決這個問題。

未來，自動駕駛算法的研發(fā)和迭代的速度與原來都會不同，包括 OTA 功能引入以后，很多軟件迭代的速度也會越來越快。

所以從安全角度來講，需要考慮當原來傳統(tǒng)的 V Model 逐步轉向快速迭代的軟件定義汽車的時候，如何在研發(fā)過程當中考慮到安全實踐是非常重要的。

其實，我們也有一些實踐方法來保證軟件快速迭代當中的安全。但是汽車行業(yè)有自己的特殊性，很多方法需要在汽車行業(yè)里面做深入的實踐，同時要契合汽車行業(yè)的實際情況。

騰訊作為汽車快速數(shù)字化轉型的助手，有以下建議：

人的層面：先做到 " 有專門團隊負責信息安全 "，再考慮 " 信息安全是每個人的責任 "；找專業(yè)的人做專業(yè)的事情；

技術層面：將 PC、移動端已經成熟的完全技術、結合具體業(yè)務場景定制、按優(yōu)先級順序應用到自能網聯(lián)中；選擇合適的自動化工具，應用到安全開發(fā)流程中。

流程層面：安全左移，大多數(shù)安全隱患可以在需求設計階段層面解決，低成本高回報；通過測試驗證需求是否滿足，發(fā)現(xiàn)實現(xiàn)安全問題。

總之，強調一個觀點就是信息安全應該成為智能網聯(lián)汽車安全管理非常重要的一個部分。

雷鋒網 雷鋒網

返回第一電動網首頁 >