騰訊呂一平：安全左移，智能網聯安全從研發做起 | CCF-GAIR 2020

2020年8月7日，全球人工智能與機器人峰會(CCF-GAIR 2020)正式開幕。CCF-GAIR 2020峰會由中國計算機聯合會(CCF)主辦，香港中文大學(深圳)和雷鋒網(微信官方賬號:雷鋒網)聯合承辦，鵬程實驗室和深圳人工智能與機器人研究所協辦。

8月8日，在本次峰會的智能駕駛專場上，正是騰訊工業安全運營部總經理陸為線上線下參會者帶來了《安全向左移動，從智能網聯安全研發開始》的精彩報告。

陸強調，信息安全要成為智能網聯汽車安全管理非常重要的一部分。

呂依平提到，目前在汽車信息安全領域還沒有很好的評估體系。對于車輛的安全性，一個維度是設計安全，整個選型需要必要的安全考慮。如果在設計階段就能考慮更多的安全因素，就可以避免很多安全問題，解決安全問題的成本也會更低。

以下是演講全文。雷鋒新智經編輯不改初衷:

如果你不是很了解我們，電影《速度與激情8》可以給你更直觀的感受。很多車輛都可以被黑客控制，這就是未來的信息安全。當我們把汽車的控制權交給系統的時候，信息安全給車輛帶來了挑戰。

以前我們分享過很多關于信息安全對車輛重要性的觀點，今天就不贅述了。首先我要明確一點，汽車是一個質量和品控非常嚴格的行業。新技術在汽車上的應用首先必須是技術，其次是國家相關規范和標準，最后才是符合性認證的過程。

簡而言之，技術應用必須比規范、標準和認證更先進。

對于信息安全或者網絡安全，在汽車領域是一個新的領域，所以它的技術會比規范更先進。

那么，我們如何將信息安全作為質量控制的一部分納入質量管理體系呢？

我認為信息安全是車輛乃至智能駕駛的系統。剛才滴滴也提到，信息安全也是滴滴整個自動駕駛框架的重要組成部分。

高智能化、網絡化的高安全性要求。

為什么我今天演講的題目是“安全向左移動”？

很多汽車專家都在問同一個問題——如何用更少的成本、更可控的成本和投入來解決信息安全問題，從而保證引入自動駕駛后的車聯網是安全的。

所以，今天我帶來了一些我們自己的觀點與大家分享。

目前，汽車信息安全領域還沒有很好的評估體系。在做了大量的研究和實踐后，我們總結出了自己的經驗和體會:對于汽車安全，有一個維度是設計安全，整個選型過程中要考慮安全。另一個維度是汽車研發。

值得一提的是，現在汽車研發分為兩部分，越來越多的OEM團隊在做自己的軟件代碼，還有現在非常流行的軟件定義汽車。

國際國內的車廠都成立了軟件公司或軟件開發子公司，目前已經出現了Tir1的研發逐漸向OEM轉移的趨勢。

然后在和他們合作的過程中，我們發現很多問題都和設計、工程實踐有關。

如何提高智能網的設計和工程實踐？

從上圖可以看出，如果我們在設計和實踐上做得好，車輛的信息安全會更安全。

更重要的是，在安全領域有一種理念。如果在設計階段就能考慮更多的安全因素，就可以避免很多安全問題，解決安全問題的成本也會更低。

對于一輛車來說，無論是車端、云端還是移動端，都有大量的入口。汽車之前沒有這些問題，因為汽車一開始和互聯網沒有任何聯系，沒有和世界互動的接口。

為什么現在汽車成了我們關注的焦點？

因為現在一輛車上的接口太多了，不管是遠程接口還是phys……鋁接口，它將與世界相連。

比如從WIFI到藍牙，很多遠程接口和物理接口，還有通過充電樁的交互，甚至包括L2和L2+自動駕駛系統，還有現場專家提到的車路協同，目前和汽車的交互很多。

對特斯拉入侵的思考

事實上，這些“點”也成為了攻擊車輛、造成車輛信息安全問題的入口。過去幾年，騰訊安全科恩實驗室通過大量的接口，如3G和4G網絡、ADAS等，證明了這些外部接口可以影響車輛信息安全。

比如2016年，我們第一次研究了特斯拉，并公布了結果，這也是一系列安全問題的結果。

因為特斯拉是較早推出軟件定義汽車架構的OEM廠商，大部分代碼都是自主開發的，但是2016年特斯拉出現了很多設計問題。

具體來說，在未授權遠程控制中，我們可以看到瀏覽器版本很低，系統內核存在很多系統漏洞。

值得一提的是，OTA對于檢查固件的完整性和安全性是非常重要的，但是2016年特斯拉并沒有加入這種強檢查，這導致我們最終可以更換連接到特斯拉汽車網絡的物品，最終可以向特斯拉總線發送各種控制命令，從而導致特斯拉出現問題。

如果在設計階段就考慮到這些問題，其實是可以避免的。

當然，特斯拉有優勢。他們更早考慮到可以通過設計技術升級軟件，大部分軟件都是他們自己開發的。

2016年我們向特斯拉匯報這些問題后，他們很快彌補了這些缺陷，比如將瀏覽器升級到最新，升級內核，在網關OTA進行代碼簽名，從而保證在任何一個OTA進行強有力的安全檢查，確保安全。

在我們安防領域，有一句話叫“道高一尺，魔高一丈”。說明安全圈有自己的能力和手段。

所以我們繼續深入分析特斯拉之后，發現它的代碼實現層面出現了新的問題，我們發現了特斯拉自己都沒有發現的漏洞。

雖然特斯拉在網關中加入了簽名驗證，但其在工程實踐中的邏輯是有問題的。

更有意思的是，2016年和2017年特斯拉最大的不同是，2016年，它沒有考慮設計問題。到2017年，它在設計層面已經做得非常好了，但在工程實踐中出現了小問題。

2020年，特斯拉的整體能力比2017年有了很大的進步。現在，他們不僅從安全設計的角度，而且從工程實踐的角度都做得很好，值得國內汽車從業者借鑒。

綜上可以發現，一方面軟件定義汽車的比例越來越高，另一方面隨著自動駕駛系統的引入，當駕駛決策真的即將交給系統的時候，預計會比人更安全。但如果信息安全做得不好，未必比人的決策更安全。

2019年，我們做了一個與自動駕駛相關的研究。如果自動駕駛系統出現問題，會有什么危害？

看完視頻，大家有一個比較直觀的感受，這里面涉及到兩類問題，一類是自動駕駛和人工智能算法的對抗，一類是車道識別。

當然，特斯拉也有讓人眼花繚亂的地方，前置攝像頭可以感知車道線。此外，特斯拉的全視覺高級輔助駕駛方案不涉及毫米波雷達和激光雷達等傳感器。

但是研究了他們的算法和神經網絡之后，我們可以通過在地面布置幾個干擾點，把他們引入錯誤的車道。這也涉及到人工智能算法決策的對策技術。

前幾天，一輛特斯拉Model 3在省高速公路上直接撞上了一輛面包車。事故發生時，前方的白色卡車水平插入特斯拉的車道。事故發生前，這輛特斯拉Model 3開啟了自動輔助駕駛，但司機沒有專注于前方的道路，導致了事故的發生。換句話說，特斯拉的自動駕駛傳感器沒有發現前方有側翻的卡車。

通過對Tesla的研究，發現安全領域出現了一個新的攻擊角度，那就是APE模塊o……本身就和互聯網互動的特斯拉。因為車輛是聯網的，如果我們獲得了自動駕駛的角色，就可以通過一個游戲機的手柄來控制車輛。

那么，如何在算法層面更安全，避免更多的樣本對抗問題呢？如何保證自動駕駛系統的安全性才能做得更好？

當我們向特斯拉反映這些問題時，比如系統安全問題，特斯拉很快做出了回應，稱非常容易解決。在我們報告問題一個月后，特斯拉官網進行了調整，他們與我們溝通了自動駕駛算法和樣本對策修復的流程。

同時，特斯拉也給出了一個聲明，在啟動L2自動駕駛時，駕駛員的手不能與方向盤分離，注意力要高度保持。當然，這是他們看到我們報道的問題后的策略調整。

智能網聯汽車的安全問題

自動駕駛引入后，尤其是算法層面的問題，它的修復成本和成本會變得更高。因為調整算法意味著重新采集數據，重新訓練數據，重新仿真，駕駛測試，最后驗證算法。

剛才滴滴也提到了安全問題，但是他們關注的是行車安全。在我們把駕駛交給系統之后，要對算法做任何調整都需要大量的練習。

因此，在自動駕駛系統的設計階段，安全考慮會變得更加重要。如果在設計階段不考慮這些問題，應用后再進行修復調整，成本會高于系統層面帶來的安全問題。

對于智能網聯汽車，常見的問題有:

如上圖所示，越往左，整個設計架構可以解決的問題。大家在設計的時候要盡量考慮這些問題，解決這些問題。右邊的比較難，可以選擇在工程實踐階段解決這些問題。

簡而言之，設計上解決的問題越多，成本就會越低。

如果在設計層面就把安全做好了，對于自動駕駛來說本來就是安全的。

對于汽車來說，這是一個非常分散的行業。面對不同價格體系的汽車行業，要以人身安全為重。

那么，如何保證人身安全呢？

目前，自動駕駛汽車的操作系統和硬件并不統一，整個供應鏈也處于非常分散甚至復雜的階段。而且，它不可能像PC和移動一樣有一個通用的操作系統。

在我們看來，如果在設計階段就把自動駕駛系統本身的安全性做好，問題是可以解決的。

針對以上問題，如何處理和練習就變得非常重要。

如何解決自動駕駛信息安全問題

首先，在研發階段引入更多的工具來解決這個問題。這個措施在互聯網領域已經用了很多，比如監控來解決這個問題。

未來自動駕駛算法的研發和迭代速度會和原來不一樣，包括OTA功能的引入，很多軟件的迭代速度會越來越快。

因此，從安全的角度來看，當最初的傳統V模型逐漸轉向快速迭代的軟件定義汽車時，如何在R&D過程中考慮安全實踐是非常重要的。

其實我們也有一些切實可行的方法來保證軟件快速迭代的安全性。但是汽車行業有其特殊性，很多方法需要在汽車行業深入實踐，同時要符合汽車行業的實際情況。

騰訊作為汽車快速數字化轉型的助手，有以下建議:

人的維度:首先要有專門的團隊負責信息安全，然后考慮信息安全人人有責；找專業的人做專業的事；

技術層面:根據具體業務場景定制PC和移動端的成熟技術，并優先應用于自能網；選擇適當的自動化工具，并將其應用于安全開發流程。

流程層面:安全向左移動，大部分安全風險可以在需求設計層面解決，成本低，回報高；通過測試驗證是否滿足需求，并發現實現安全問題。

總之，強調信息安全應該成為智能網聯汽車安全管理非常重要的一部分。

雷鋒。com 2020年8月7日，全球人工智能與機器人峰會(CCF-GAIR 2020)正式開幕。CCF-GAIR 2020峰會由中國計算機聯合會(CCF)主辦，香港中文大學(深圳)和雷鋒網(微信官方賬號:雷鋒網)聯合承辦，鵬程實驗室和深圳人工智能與機器人研究所協辦。

8月8日，在本次峰會的智能駕駛專場上，正是騰訊工業安全運營部總經理陸為線上線下參會者帶來了《安全向左移動，從智能網聯安全研發開始》的精彩報告。

陸強調，信息安全要成為智能網聯汽車安全管理非常重要的一部分。

呂依平提到，目前在汽車信息安全領域還沒有很好的評估體系。對于車輛的安全性，一個維度是設計安全，整個選型需要必要的安全考慮。如果在設計階段就能考慮更多的安全因素，就可以避免很多安全問題，解決安全問題的成本也會更低。

以下是演講全文。雷鋒新智經編輯不改初衷:

如果你不是很了解我們，電影《速度與激情8》可以給你更直觀的感受。很多車輛都可以被黑客控制，這就是未來的信息安全。當我們把汽車的控制權交給系統的時候，信息安全給車輛帶來了挑戰。

以前我們分享過很多關于信息安全對車輛重要性的觀點，今天就不贅述了。首先我要明確一點，汽車是一個質量和品控非常嚴格的行業。新技術在汽車上的應用首先必須是技術，其次是國家相關規范和標準，最后才是符合性認證的過程。

簡而言之，技術應用必須比規范、標準和認證更先進。

對于信息安全或者網絡安全，在汽車領域是一個新的領域，所以它的技術會比規范更先進。

那么，我們如何將信息安全作為質量控制的一部分納入質量管理體系呢？

我認為信息安全是車輛乃至智能駕駛的系統。剛才滴滴也提到，信息安全也是滴滴整個自動駕駛框架的重要組成部分。

高智能化、網絡化的高安全性要求。

為什么我今天演講的題目是“安全向左移動”？

很多汽車專家都在問同一個問題——如何用更少的成本、更可控的成本和投入來解決信息安全問題，從而保證引入自動駕駛后的車聯網是安全的。

所以，今天我帶來了一些我們自己的觀點與大家分享。

目前，汽車信息安全領域還沒有很好的評估體系。在做了大量的研究和實踐后，我們總結出了自己的經驗和體會:對于汽車安全，有一個維度是設計安全，整個選型過程中要考慮安全。另一個維度是汽車研發。

值得一提的是，現在汽車研發分為兩部分，越來越多的OEM團隊在做自己的軟件代碼，還有現在非常流行的軟件定義汽車。

國際國內的車廠都成立了軟件公司或軟件開發子公司，目前已經出現了Tir1的研發逐漸向OEM轉移的趨勢。

然后在和他們合作的過程中，我們發現很多問題都和設計、工程實踐有關。

如何提高智能網的設計和工程實踐？

從上圖可以看出，如果我們在設計和實踐上做得好，車輛的信息安全會更安全。

更重要的是，在安全領域有一種理念。如果在設計階段就能考慮更多的安全因素，就可以避免很多安全問題，解決安全問題的成本也會更低。

對于一輛車來說，無論是車端、云端還是移動端，都有大量的入口。汽車沒有這些問題……efore，因為汽車一開始和互聯網沒有任何聯系，也沒有和世界互動的接口。

為什么現在汽車成了我們關注的焦點？

因為現在一輛車的接口太多了，不管是遠程接口還是物理接口，都會和世界連接。

比如從WIFI到藍牙，很多遠程接口和物理接口，還有通過充電樁的交互，甚至包括L2和L2+自動駕駛系統，還有現場專家提到的車路協同，目前和汽車的交互很多。

對特斯拉入侵的思考

事實上，這些“點”也成為了攻擊車輛、造成車輛信息安全問題的入口。過去幾年，騰訊安全科恩實驗室通過大量的接口，如3G和4G網絡、ADAS等，證明了這些外部接口可以影響車輛信息安全。

比如2016年，我們第一次研究了特斯拉，并公布了結果，這也是一系列安全問題的結果。

因為特斯拉是較早推出軟件定義汽車架構的OEM廠商，大部分代碼都是自主開發的，但是2016年特斯拉出現了很多設計問題。

具體來說，在未授權遠程控制中，我們可以看到瀏覽器版本很低，系統內核存在很多系統漏洞。

值得一提的是，OTA對于檢查固件的完整性和安全性是非常重要的，但是2016年特斯拉并沒有加入這種強檢查，這導致我們最終可以更換連接到特斯拉汽車網絡的物品，最終可以向特斯拉總線發送各種控制命令，從而導致特斯拉出現問題。

如果在設計階段就考慮到這些問題，其實是可以避免的。

當然，特斯拉有優勢。他們更早考慮到可以通過設計技術升級軟件，大部分軟件都是他們自己開發的。

2016年我們向特斯拉匯報這些問題后，他們很快彌補了這些缺陷，比如將瀏覽器升級到最新，升級內核，在網關OTA處進行代碼簽名，從而保證在任何一個OTA處進行強有力的安全檢查，確保安全。

在我們安防領域，有一句話叫“道高一尺，魔高一丈”。說明安全圈有自己的能力和手段。

所以我們繼續深入分析特斯拉之后，發現它的代碼實現層面出現了新的問題，我們發現了特斯拉自己都沒有發現的漏洞。

雖然特斯拉在網關中加入了簽名驗證，但其在工程實踐中的邏輯是有問題的。

更有意思的是，2016年和2017年特斯拉最大的不同是，2016年，它沒有考慮設計問題。到2017年，它在設計層面已經做得非常好了，但在工程實踐中出現了小問題。

2020年，特斯拉的整體能力比2017年有了很大的進步。現在，他們不僅從安全設計的角度，而且從工程實踐的角度都做得很好，值得國內汽車從業者借鑒。

綜上可以發現，一方面軟件定義汽車的比例越來越高，另一方面隨著自動駕駛系統的引入，當駕駛決策真的即將交給系統的時候，預計會比人更安全。但如果信息安全做得不好，未必比人的決策更安全。

2019年，我們做了一個與自動駕駛相關的研究。如果自動駕駛系統出現問題，會有什么危害？

看完視頻，大家有一個比較直觀的感受，這里面涉及到兩類問題，一類是自動駕駛和人工智能算法的對抗，一類是車道識別。

當然，特斯拉也有讓人眼花繚亂的地方，前置攝像頭可以感知車道線。此外，特斯拉的全視覺高級輔助駕駛方案不涉及毫米波雷達和激光雷達等傳感器。

但是研究了他們的算法和神經網絡之后，我們可以通過在地面布置幾個干擾點，把他們引入錯誤的車道。這也涉及到人工智能算法決策的對策技術。

前幾天，一輛特斯拉Model 3在省高速公路上直接撞上了一輛面包車。事故發生時，前方的白色卡車水平插入特斯拉的車道。事故發生前，這輛特斯拉Model 3開啟了自動輔助駕駛，但司機卻……不要把注意力放在前面的路上，這導致了事故。換句話說，特斯拉的自動駕駛傳感器沒有發現前方有側翻的卡車。

通過對特斯拉的研究，發現安全領域出現了一個新的攻擊角度，那就是特斯拉上的APE模塊，它本身就是與互聯網交互的。因為車輛是聯網的，如果我們獲得了自動駕駛的角色，就可以通過一個游戲機的手柄來控制車輛。

那么，如何在算法層面更安全，避免更多的樣本對抗問題呢？如何保證自動駕駛系統的安全性才能做得更好？

當我們向特斯拉反映這些問題時，比如系統安全問題，特斯拉很快做出了回應，稱非常容易解決。在我們報告問題一個月后，特斯拉官網進行了調整，他們與我們溝通了自動駕駛算法和樣本對策修復的流程。

同時，特斯拉也給出了一個聲明，在啟動L2自動駕駛時，駕駛員的手不能與方向盤分離，注意力要高度保持。當然，這是他們看到我們報道的問題后的策略調整。

智能網聯汽車的安全問題

自動駕駛引入后，尤其是算法層面的問題，它的修復成本和成本會變得更高。因為調整算法意味著重新采集數據，重新訓練數據，重新仿真，駕駛測試，最后驗證算法。

剛才滴滴也提到了安全問題，但是他們關注的是行車安全。在我們把駕駛交給系統之后，要對算法做任何調整都需要大量的練習。

因此，在自動駕駛系統的設計階段，安全考慮會變得更加重要。如果在設計階段不考慮這些問題，應用后再進行修復調整，成本會高于系統層面帶來的安全問題。

對于智能網聯汽車，常見的問題有:

如上圖所示，越往左，整個設計架構可以解決的問題。大家在設計的時候要盡量考慮這些問題，解決這些問題。右邊的比較難，可以選擇在工程實踐階段解決這些問題。

簡而言之，設計上解決的問題越多，成本就會越低。

如果在設計層面就把安全做好了，對于自動駕駛來說本來就是安全的。

對于汽車來說，這是一個非常分散的行業。面對不同價格體系的汽車行業，要以人身安全為重。

那么，如何保證人身安全呢？

目前，自動駕駛汽車的操作系統和硬件并不統一，整個供應鏈也處于非常分散甚至復雜的階段。而且，它不可能像PC和移動一樣有一個通用的操作系統。

在我們看來，如果在設計階段就把自動駕駛系統本身的安全性做好，問題是可以解決的。

針對以上問題，如何處理和練習就變得非常重要。

如何解決自動駕駛信息安全問題

首先，在研發階段引入更多的工具來解決這個問題。這個措施在互聯網領域已經用了很多，比如監控來解決這個問題。

未來自動駕駛算法的研發和迭代速度會和原來不一樣，包括OTA功能的引入，很多軟件的迭代速度會越來越快。

因此，從安全的角度來看，當最初的傳統V模型逐漸轉向快速迭代的軟件定義汽車時，如何在R&D過程中考慮安全實踐是非常重要的。

其實我們也有一些切實可行的方法來保證軟件快速迭代的安全性。但是汽車行業有其特殊性，很多方法需要在汽車行業深入實踐，同時要符合汽車行業的實際情況。

騰訊作為汽車快速數字化轉型的助手，有以下建議:

人的維度:首先要有專門的團隊負責信息安全，然后考慮信息安全人人有責；找專業的人做專業的事；

技術層面:根據具體業務場景定制PC和移動端的成熟技術，并優先應用于自能網；選擇適當的自動化工具，并將其應用于安全開發流程。

流程層面:安全向左移動，大部分安全風險可以在需求設計層面解決，成本低，回報高；通過測試驗證是否滿足需求，并發現實現安全問題。

總之，強調信息安全應該成為智能網聯汽車安全管理非常重要的一部分。

雷鋒。com

標簽：特斯拉發現Model 3理念遠程

汽車資訊熱門資訊