自動駕駛的信任危機

保守來說，也許我們距離真正的自動駕駛汽車還有幾十年的時間。在此之前，人機共駕可能會成為一種常態。人類不僅要參與實際駕駛，還要扮演“檢查員”的角色，密切關注人工智能系統的運行。但就是這種“常態”，一直是自動駕駛行業的“沼澤地帶”。當自動駕駛過程中出現緊急情況時，如何讓駕駛員及時安全地接管汽車的控制權，是汽車行業長期爭論的問題。而這也正是業內迫切需要解決的問題，被稱為L3級別的自動駕駛，甚至是L2級別的自動輔助駕駛:用戶應該信任這種AI輔助駕駛系統嗎？事實上，該行業研究自動化場景中的人類行為已經超過70年了。之前的研究表明，人類在長期交出控制權后，自然會對可信任的自動化機器產生過度的信任。因此，如何平衡用戶信任和風險，成為很多車企和自動駕駛公司的“選擇”。這讓很多車企不得不直接穿越沼澤，放棄這種中級的“L3級自動駕駛”——“與其在技術不成熟的時候把責任轉嫁給消費者，不如真的努力直接實現全自動駕駛。但是輔助駕駛功能帶來的體驗還是有很多讓用戶“上癮”的，包括可以不斷升級的特斯拉Autopilot系統。事實上，鑒于自動駕駛的安全性，業界對特斯拉頗有微詞。上個月，美國國家交通安全委員會(NTSB)發布的一份調查報告顯示，3月份在美國佛羅里達州發生的一起致命的特斯拉事故中，事故發生時自動駕駛儀被激活，司機的手沒有放在方向盤上。盡管特斯拉官方一直強調Autopilot屬于輔助駕駛系統，但駕駛員在開啟后仍然要握著方向盤保持注意力。但實際上，在之前的很多致命事故中，幾乎所有的車主都處于“拖把”狀態，完全把命交給了一套功能還有待完善的智能機器。

錯誤的特斯拉Autopilot系統使用演示|網絡用戶“我們接受批評和建議，但我們做出的所有決定都是基于給客戶最好的體驗。在今年第一季度的電話會議中，埃隆·馬斯克(Elon Musk)解釋道，“這些嚴重事故大多發生在經驗豐富的司機身上，這種盲目的自信很容易讓人放松警惕，從而導致了悲劇的發生。然而，馬斯克始終堅信自己的觀點:“自動駕駛比任何傳統汽車都安全。為了解決這個行業難題，MIT花了三年時間，一億多實驗數據，對“信任”與“風險共擔”和“警惕”的關系進行了解釋、討論和進一步拆解。這項研究的論文已經發表(下載地址:http://t.cn/ECAfpUp)。詳細記錄了本實驗的背景、操作方法和結論，并討論了本研究的局限性。極客公園整理了重點內容，一一分享給大家。麻省理工學院的“信任體系”早在2016年，麻省理工學院運輸與物流中心的工作人員就開始了對自動駕駛技術的專項研究。通過收集大量真實駕駛數據，利用深度學習算法進行分析，目的是找出人類與AI的交互機制，即“如何在不犧牲駕駛樂趣的前提下，不斷提高道路安全性”。研究對象包括21輛特斯拉Model S (Model S和Model X)、2輛沃爾沃S90、2輛路虎極光和2輛凱迪拉克CT6。MIT工作人員要收集的是這些車輛在自然運行狀態下的行駛數據，時間分為長期(行駛時間一年以上)和短期(行駛時間一個月)兩個階段。

實驗中使用的不同的Model S，大部分是特斯拉Model S和Model X | MIT，進行了小規模的改裝，另外安裝了三個攝像頭(一個用于監控駕駛員的面部特征，一個用于采集駕駛員的肢體語言，一個主要是采集車前的道路環境信息)。除了高分辨率……這些攝像頭提供的視頻流，研究人員還會記錄來自IMU、GPS、CAN總線信息等的數據。目前，研究仍在繼續，參與者99人，駕駛天數11846天，累計行駛里程超過40萬英里，采集視頻幀55億幀。這項研究背后的技術是由麻省理工學院工作人員構建的一套軟硬件系統RIDER，也稱為“實時智能駕駛環境記錄系統”，收集和整理數據。這套系統不僅具有靈活的硬件架構，還集成了大量的軟件框架，可以借助GPU驅動的計算內核對采集到的傳感器數據進行分析，最終得到自動駕駛場景下關于人類駕駛員行為的信息。下圖可以幫助我們更好的理解從原始數據采集到最終信息輸出的整個過程。高級步驟包括:1)數據排序和同步；2)自動或半自動的數據標注、語義解釋和信息提取；3)整體分析和可視化輸出

實驗中從原始數據采集到最終信息輸出的全過程| MIT值得一提的是，MIT團隊還在這項研究的基礎上，對自動駕駛系統進行了單獨的調查，以探究用戶在使用自動駕駛的過程中是否會出現功能性警惕性倒退。研究人員從概念上評估了“功能性警惕”這一指標。它衡量的是駕駛員在使用Autopilot的過程中的自我管理能力，比如何時何地選擇開啟該功能，同時也清楚地了解手動接管車輛的時機。目前，根據數據分析的結果，雖然駕駛員使用自動駕駛儀駕駛的里程占總里程的34.8%，但他們保持著相對較高的功能警惕性。這個結論是基于自動駕駛系統脫離時18928次的標注。通過一定數量級的采樣，證明人類駕駛員在使用類似Autopilot這樣的人工智能輔助駕駛系統時，仍然能夠及時應對一些具有挑戰性的場景。

傳統的關于駕駛員警惕性與麻省理工學院提出的“功能性警惕性”區別的研究| MIT本實驗的主要目的是說明人機交互中常見的警惕性降低模式并不是AI輔助駕駛(也稱L2級自動駕駛、半自動駕駛等)中的固有現象)通過分析自動駕駛特斯拉模型產生的真實駕駛數據。這樣做的重要意義在于，可能有助于企業設計類似的基于人工智能的駕駛輔助系統，讓駕駛員不會過于信任機器，從而導致警惕性急劇下降。在論文的摘要部分，麻省理工學院的工作人員表示，“我希望這項研究能夠引起業界的討論和進一步的深入觀察。”即在駕駛輔助系統的設計和應用中，一些功能如何影響所涉及的人類駕駛員。以及我們作為駕駛主體如何在使用類似技術時保持與機器的良好配合而不影響自己的警惕性和控制能力。耗時三年多的實驗有什么意義？麻省理工學院的整個研究是基于人工智能和機器人系統快速發展的全球化背景。就汽車而言，如何確保AI應用能夠最大限度地保障駕駛安全，有效改善出行體驗，而不是增加風險，才是關鍵。解決類似問題的核心是對人工智能輔助駕駛場景下人類行為有更深入的理解，充分評估駕駛員保持警惕的能力，進一步加深對機器局限性的認識。因為在一個充滿不確定性的世界里，信任和風險的平衡非常重要，每一秒的誤判都可能導致災難性的后果。這項研究的重點是特斯拉的自動駕駛系統。根據美國汽車工程學會SAE給出的定義和標準，屬于L2級別的自動駕駛系統，可以在人類駕駛員的監督下實現一定程度的自動駕駛。但為了避免過度解讀造成誤解，麻省理工學院的工作人員在論文中舍棄了“自動駕駛”和“自動化”這兩個詞，給出了“AI輔助駕駛系統”的定義，以表明Autopilot現階段并不具備“全自動駕駛能力”，是一個始終需要人類監管的駕駛輔助系統。由于特斯拉是量產車型，Autopilot是目前個人使用率最高的駕駛輔助產品，自然成為最適合研究和理解人類與AI交互方式的對象。參與實驗的特斯拉Model S (Model S和Model X)擁有多種先進的駕駛輔助功能，但這項研究主要集中在自適應巡航控制(TACC)和自動轉向(Autosteer)上，也就是說，特斯拉可以在三種模式下駕駛:1)手動模式；2)TACC；3)自動駕駛(TACC和自動駕駛同時開啟)。數據采樣期間，由于特斯拉新一代FSD自動駕駛芯片尚未發布，實驗車型分別搭載HW1.0和HW2.0硬件系統。HW1.0包括由Mobileye開發的雷達傳感器融合、超聲波傳感器和單目攝像頭系統。而HW2.0擁有8個攝像頭，提供車身360°環境感知，探測范圍250米，12個升級的超聲波傳感器和1個前向雷達。在參與數據收集的21輛特斯拉汽車中，有16輛配備了HW1.0，其余5輛為HW2.0，截至目前，自2015年10月特斯拉啟動Autopilot以來，特斯拉車型在系統運行狀態下的總行駛里程已超過10億英里。然而，即使擁有如此龐大的里程數據，我們對“自動駕駛系統何時、何地以及如何與人類進行交互”的信息卻知之甚少，因此麻省理工學院的研究人員希望借助真實世界的數據進行更客觀、更具代表性的分析。如前所述，麻省理工學院團隊已經提出了一種評估駕駛員“功能警惕性”的方法，該方法以概念性的方式衡量駕駛員在使用自動駕駛儀過程中的自我管理能力，例如何時何地選擇開啟該功能，同時也清楚地了解手動接管車輛的時機。在評估自動駕駛系統開啟后駕駛員對一些具有挑戰性場景的反應能力時，研究人員重點關注“棘手情況”，即如果不注意，可能會導致車輛損壞和人員傷亡。通過對8682遇到“困難場景”的情況分析，結果顯示，駕駛員在使用自動駕駛儀的過程中仍然保持著高度的警惕性，符合這種情況的行駛里程占總數據的34.8%。這種對駕駛員選擇何時何地使用Autopilot的調查，也是研究駕駛員警惕性的傳統方法與麻省理工學院提出的“功能性警惕”的一大區別。這項研究最終得出兩個結論:1)在提供的真實駕駛數據中，特斯拉車主使用Autopilot的里程數占了非常高的比例；2)當自動駕駛系統開啟時，駕駛員并沒有因為過度信任而表現出警惕性的明顯降低。簡而言之，基于麻省理工學院獲得的真實數據，可知用戶頻繁使用特斯拉Autopilot，在此期間仍保持相應程度的功能警惕。下表通過詳細的數據說明了上述第二個結論。保守來說，也許我們距離真正的自動駕駛汽車還有幾十年的時間。在此之前，人機共駕可能會成為一種常態。人類不僅要參與實際駕駛，還要扮演“檢查員”的角色，密切關注人工智能系統的運行。但就是這種“常態”，一直是自動駕駛行業的“沼澤地帶”。當自動駕駛過程中出現緊急情況時，如何讓駕駛員及時安全地接管汽車的控制權，是汽車行業長期爭論的問題。而這也正是業內迫切需要解決的問題，被稱為L3級別的自動駕駛，甚至是L2級別的自動輔助駕駛:用戶應該信任這種AI輔助駕駛系統嗎？事實上，該行業研究自動化場景中的人類行為已經超過70年了。之前的研究表明，人類在長期交出控制權后，自然會對可信任的自動化機器產生過度的信任。因此，如何平衡用戶信任和風險，成為很多車企和自動駕駛公司的“選擇”。這讓很多車企不得不直接穿越沼澤，放棄這種中級的“L3級自動駕駛”——“與其在技術不成熟的時候把責任轉嫁給消費者，不如真的努力直接實現全自動駕駛。但是輔助駕駛功能帶來的體驗還是有很多讓用戶“上癮”的，包括可以不斷升級的特斯拉Autopilot系統。事實上，鑒于自動駕駛的安全性，業界對特斯拉頗有微詞。上個月，美國國家交通安全委員會(NTSB)發布的一份調查報告顯示，3月份在美國佛羅里達州發生的一起致命的特斯拉事故中，事故發生時自動駕駛儀被激活，司機的手沒有放在方向盤上。盡管特斯拉官方一直強調Autopilot屬于輔助駕駛系統，但駕駛員在開啟后仍然要握著方向盤保持注意力。但實際上，在之前的很多致命事故中，幾乎所有的車主都處于“拖把”狀態，完全把命交給了一套功能還有待完善的智能機器。

錯誤的特斯拉Autopilot系統使用演示|網絡用戶“我們接受批評和建議，但我們做出的所有決定都是基于給客戶最好的體驗。在今年第一季度的電話會議中，埃隆·馬斯克(Elon Musk)解釋道，“這些嚴重事故大多發生在經驗豐富的司機身上，這種盲目的自信很容易讓人放松警惕，從而導致了悲劇的發生。然而，馬斯克始終堅信自己的觀點:“自動駕駛比任何傳統汽車都安全。為了解決這個行業難題，MIT花了三年時間，一億多實驗數據，對“信任”與“風險共擔”和“警惕”的關系進行了解釋、討論和進一步拆解。這項研究的論文已經發表(下載地址:http://t.cn/ECAfpUp)。詳細記錄了本實驗的背景、操作方法和結論，并討論了本研究的局限性。極客公園整理了重點內容，一一分享給大家。麻省理工學院的“信任體系”早在2016年，麻省理工學院運輸與物流中心的工作人員就開始了對自動駕駛技術的專項研究。通過收集大量真實駕駛數據，利用深度學習算法進行分析，目的是找出人類與AI的交互機制，即“如何在不犧牲駕駛樂趣的情況下，不斷提高道路安全性”。研究對象包括21輛特斯拉Model S (Model S和Model X)、2輛沃爾沃S90、2輛路虎極光和2輛凱迪拉克CT6。MIT工作人員要收集的是這些車輛在自然運行狀態下的行駛數據，時間分為長期(行駛時間一年以上)和短期(行駛時間一個月)兩個階段。

迪……實驗中使用的傳送門Model S，大部分是特斯拉Model S和Model X | MIT，進行了小范圍的改裝，加裝了三個攝像頭(一個用于監控駕駛員的面部特征，一個用于采集駕駛員的肢體語言，一個主要是采集車前的道路環境信息)。除了這些攝像頭提供的高分辨率視頻流，研究人員還將記錄來自IMU、GPS、CAN總線信息等的數據。目前，研究仍在繼續，參與者99人，駕駛天數11846天，累計行駛里程超過40萬英里，采集視頻幀55億幀。這項研究背后的技術是由麻省理工學院工作人員構建的一套軟硬件系統RIDER，也稱為“實時智能駕駛環境記錄系統”，收集和整理數據。這套系統不僅具有靈活的硬件架構，還集成了大量的軟件框架，可以借助GPU驅動的計算內核對采集到的傳感器數據進行分析，最終得到自動駕駛場景下關于人類駕駛員行為的信息。下圖可以幫助我們更好的理解從原始數據采集到最終信息輸出的整個過程。高級步驟包括:1)數據排序和同步；2)自動或半自動的數據標注、語義解釋和信息提取；3)整體分析和可視化輸出

實驗中從原始數據采集到最終信息輸出的全過程| MIT值得一提的是，MIT團隊還在這項研究的基礎上，對自動駕駛系統進行了單獨的調查，以探究用戶在使用自動駕駛的過程中是否會出現功能性警惕性倒退。研究人員從概念上評估了“功能性警惕”這一指標。它衡量的是駕駛員在使用Autopilot的過程中的自我管理能力，比如何時何地選擇開啟該功能，同時也清楚地了解手動接管車輛的時機。目前，根據數據分析的結果，雖然駕駛員使用自動駕駛儀駕駛的里程占總里程的34.8%，但他們保持著相對較高的功能警惕性。這個結論是基于自動駕駛系統脫離時18928次的標注。通過一定數量級的采樣，證明人類駕駛員在使用類似Autopilot這樣的人工智能輔助駕駛系統時，仍然能夠及時應對一些具有挑戰性的場景。

傳統的關于駕駛員警惕性與麻省理工學院提出的“功能性警惕性”區別的研究| MIT本實驗的主要目的是說明人機交互中常見的警惕性降低模式并不是AI輔助駕駛(也稱L2級自動駕駛、半自動駕駛等)中的固有現象)通過分析自動駕駛特斯拉模型產生的真實駕駛數據。這樣做的重要意義在于，可能有助于企業設計類似的基于人工智能的駕駛輔助系統，讓駕駛員不會過于信任機器，從而導致警惕性急劇下降。在論文的摘要部分，麻省理工學院的工作人員表示，“我希望這項研究能夠引起業界的討論和進一步的深入觀察。”即在駕駛輔助系統的設計和應用中，一些功能如何影響所涉及的人類駕駛員。以及我們作為駕駛主體如何在使用類似技術時保持與機器的良好配合而不影響自己的警惕性和控制能力。耗時三年多的實驗有什么意義？麻省理工學院的整個研究是基于人工智能和機器人系統快速發展的全球化背景。就汽車而言，如何確保AI應用能夠最大限度地保障駕駛安全，有效改善出行體驗，而不是增加風險，才是關鍵。解決類似問題的核心是對人工智能輔助駕駛場景下人類行為有更深入的理解，充分評估駕駛員保持警惕的能力，進一步加深對機器局限性的認識。因為在一個充滿不確定性的世界里，信任和風險的平衡非常重要，每一秒的誤判都可能導致災難性的后果。這項研究的重點是特斯拉的自動駕駛系統。根據美國汽車工程學會SAE給出的定義和標準，屬于L2級別的自動駕駛系統，可以在人類駕駛員的監督下實現一定程度的自動駕駛。但為了避免過度解讀造成誤解，麻省理工學院的工作人員在論文中舍棄了“自動駕駛”和“自動化”這兩個詞，給出了“AI輔助駕駛系統”的定義，以表明Autopilot現階段并不具備“全自動駕駛能力”，是一個始終需要人類監管的駕駛輔助系統。由于特斯拉是量產車型，Autopilot是目前個人使用率最高的駕駛輔助產品，自然成為最適合研究和理解人類與AI交互方式的對象。參與實驗的特斯拉Model S (Model S和Model X)擁有多種先進的駕駛輔助功能，但這項研究主要集中在自適應巡航控制(TACC)和自動轉向(Autosteer)上，也就是說，特斯拉可以在三種模式下駕駛:1)手動模式；2)TACC；3)自動駕駛(TACC和自動駕駛同時開啟)。數據采樣期間，由于特斯拉新一代FSD自動駕駛芯片尚未發布，實驗車型分別搭載HW1.0和HW2.0硬件系統。HW1.0包括由Mobileye開發的雷達傳感器融合、超聲波傳感器和單目攝像頭系統。而HW2.0擁有8個攝像頭，提供車身360°環境感知，探測范圍250米，12個升級的超聲波傳感器和1個前向雷達。在參與數據收集的21輛特斯拉汽車中，有16輛配備了HW1.0，其余5輛為HW2.0，截至目前，自2015年10月特斯拉啟動Autopilot以來，特斯拉車型在系統運行狀態下的總行駛里程已超過10億英里。然而，即使擁有如此龐大的里程數據，我們對“自動駕駛系統何時、何地以及如何與人類進行交互”的信息卻知之甚少，因此麻省理工學院的研究人員希望借助真實世界的數據進行更客觀、更具代表性的分析。如前所述，麻省理工學院團隊已經提出了一種評估駕駛員“功能警惕性”的方法，該方法以概念性的方式衡量駕駛員在使用自動駕駛儀過程中的自我管理能力，例如何時何地選擇開啟該功能，同時也清楚地了解手動接管車輛的時機。在評估自動駕駛系統開啟后駕駛員對一些具有挑戰性場景的反應能力時，研究人員重點關注“棘手情況”，即如果不注意，可能會導致車輛損壞和人員傷亡。通過對8682遇到“困難場景”的情況分析，結果顯示，駕駛員在使用自動駕駛儀的過程中仍然保持著高度的警惕性，符合這種情況的行駛里程占總數據的34.8%。這種對駕駛員選擇何時何地使用Autopilot的調查，也是研究駕駛員警惕性的傳統方法與麻省理工學院提出的“功能性警惕”的一大區別。這項研究最終得出兩個結論:1)在提供的真實駕駛數據中，特斯拉車主使用Autopilot的里程數占了非常高的比例；2)當自動駕駛系統開啟時，駕駛員并沒有因為過度信任而表現出警惕性的明顯降低。簡而言之，基于麻省理工學院獲得的真實數據，可知用戶頻繁使用特斯拉Autopilot，在此期間仍保持相應程度的功能警惕。下表通過詳細的數據說明了上述第二個結論。

表一-實驗者標記自動駕駛剩余次數| MIT麻省理工學院本研究使用的數據來自21輛配備自動駕駛系統的特斯拉車型，總行駛里程為323，384英里。這些模型是私有的。除了上面提到的改裝，MIT團隊并沒有對這些車輛的行駛里程、自動駕駛開啟時間、駕駛模式做出任何限制，也沒有提供任何建議和指導。如下圖所示，該數據集中覆蓋的大部分駕駛區域位于大波士頓和新英格蘭地區，并增加了從馬薩諸塞州到加利福尼亞州和佛羅里達州的額外駕駛數據。

紅色代表車輛在手動模式下的情境軌跡，藍色代表車輛在自動駕駛模式下的行駛軌跡| MIT在手動標注數據的過程中，工作人員需要同時觀看從三個攝像頭采集的視頻數據，而自動駕駛相關系統的狀態、車輛的運動學特征等相關信號則是從一條CAN總線輸出的信息中采集的。整個數據集包含26，638個關于自動駕駛儀使用的“時間戳”。在這里，自動駕駛時間戳被定義為從駕駛員開啟自動駕駛到他由于人為或系統原因離開的一段時間。本研究對“功能性警惕”的分析重點是這個時間戳之前5秒和之后10秒的數據部分。此外，要評估駕駛員的“功能警惕性”，還需要統計導致自動駕駛系統脫離的“關鍵事件(ce)”。麻省理工學院的研究人員將其分為四類:CE1、CE2、CE3和CE4，其中他們的定義如下:CE1:對于“困難場景”，人類駕駛員因為提前預測或及時反應而主動離開自動駕駛系統；CE2:遇到“困難場景”時，自動駕駛會因為無法解決而自動離開；CE3:突然減速(例如，突然剎車等。)在自動駕駛儀運行過程中，導致系統脫離；CE4:在Autopilot運行時遇到“困難場景”，但沒有發生系統脫離或任何事故。我們能找到什么？1.該模式的用法如下圖所示。該數據集覆蓋了323，384英里的總里程，其中112，427英里是在自動駕駛儀的運行條件下完成的，換算成34.8%的里程和15.1%的運行時間。從這兩個圖可以看出，Autopilot出現的頻率是很高的，駕駛員利用這個系統獲得了相應的價值。相反，TACC功能的開啟時間只有3%，所以在MIT的研究中，忽略了對這種工況的分析，主要關注手動和自動駕駛模式的對比，因為它們構成了百分之九十七的服務時間。從目前觀察到的自動駕駛系統的分離情況來看，自動駕駛還處于技術發展的早期階段，還存在一些不完善的地方，其可信性現在決定了人類駕駛員的信任度和功能警惕程度。

0

測試車輛在手動、TACC和自動駕駛工況下的使用時間和里程數| MIT 2。自動駕駛儀運行時駕駛員的“功能警惕”在MIT中有所體現。“功能性警惕”的衡量標準需要考察駕駛員是否能及時有效地察覺CE1和CE2的發生。在18928個自動駕駛時間戳中，有8729個被標記為“困難場景”。詳情請參考表一的描述。分析這個問題的主要目標是得到標有“處理困難場景太晚了”消息的時間戳數量。這些時間戳指的是未能檢測到“關鍵事件”或對“關鍵事件”的反應緩慢，導致駕駛員的“功能警惕性”顯著下降。從表一提供的信息來看，麻省理工學院研究的數據集沒有類似的情況。表二描述了“困難情況”和自動駕駛系統斷開的頻率。“有彎道”是預測系統分離最常見的原因，“車輛距離車道、墻壁或另一車輛太近”是主動與系統分離最常見的原因。這一數據分析的結果對未來人工智能輔助駕駛系統的設計具有重要的指導作用。畢竟這類產品的目的是高效處理人類駕駛員認為“困難”的駕駛場景。

1

表二——主動離開Autopilot系統情況下的“困難場景”分類及這些場景出現的頻率| MIT“不要因為美好的事物不完美而反對它們”在對Autopilot的模式使用和駕駛員的“功能警惕性”進行評估和分析后，MIT的研究人員發現，在調查的數據集中，用戶使用Autopilot的頻率非常高，但他們并沒有過度依賴這個系統，這導致了功能警惕性的顯著下降。他們為這個結論提出了兩個假設:1)探索心理學；2)產品功能還有待完善。后者可能是我們觀察到的司機行為的重要原因。從統計上來說，司機平均每行駛9.2英里就會遇到一次“困難場面”。在這種情況下，駕駛員可以提前預測這種“困難場景”將在何時何地出現，或者及時離開自動駕駛系統，這占總駕駛時間的90.6%。而在另外4.5%的情況下，司機能夠立即對系統脫離或“困難場景”做出反應，充分說明他們的“功能警惕性”非常高。下面我們來詳細解釋一下上述兩個假設的原因:1)探索性嘗試在MIT研究的數據集中，自動駕駛儀運行的大部分時間和間隔都是在高速公路上自由駕駛產生的，但是自動駕駛儀的一些發車記錄發生在普通道路上(比如沒有限速要求的區域)。這可能表明用戶通常探索相似系統在“設計域”之外工作的能力。這種探索和學習的方式可能會讓用戶更加了解類似駕駛輔助系統的局限性，然后用它來應對論文中描述的各種“困難場景”。之所以提出這個假設，是基于MIT團隊和特斯拉車主的討論，以及對真實道路行駛數據的分析。未來，通過更多的數據和進一步的分析，這個假設很可能被進一步驗證，但也有可能被推翻。2)產品功能還有待完善。根據目前業內獲得的共識，自動駕駛作為一種基于人工智能技術的駕駛輔助系統，并沒有能力應對駕駛過程中可能出現的任何極端事件。根據麻省理工學院研究的數據，46.2%的系統脫離是由于人類駕駛員的預判或遇到“困難場景”，換算成相應的比例。在自動駕駛儀運行期間，這種脫離平均每9.2英里發生一次。這意味著自動駕駛系統往往會變得“不可靠”，需要人類駕駛員及時接管。所以從工程的角度來說，基于這樣的數據，未來的產品應該把這個“錯誤率”降到更低的水平。簡單來說，就是駕駛員知道自動駕駛并不完美，駕駛員在嘗試更多自動駕駛的場景，這兩點都讓駕駛員格外注意。這使得駕駛員的“功能警惕性”不會急劇下降。換句話說，“不要因為一個美好的事物不完美就反對它。”一套性能優秀的AI輔助駕駛系統，可能沒有99.99%那么完美，但首先企業要清醒地認識到它的不完美，并將這種認識完整地傳遞給消費者，不斷改進迭代，使其向更完美的方向發展。這是設計產品應該有的邏輯。自動駕駛，前路在哪里？雖然這項麻省理工學院的研究表明，在自動駕駛儀的使用過程中，人類駕駛員的“功能警惕性”并沒有大幅衰減。然而，我們可能仍然不清楚如何設計一個類似Autopilot的基于AI的駕駛輔助系統，以最大限度地發揮“功能警惕”的性能。麻省理工學院的研究人員認為，有兩個建議可能對駕駛員“功能性警惕”框架的管理產生潛在的有益影響。詳見下圖。

2

擴展現有“功能警惕”框架的兩種方法| MIT 1)第一種是建立反饋閉環機制。它包括駕駛員狀態感知和管理的概念，允許機器作為整個系統的監督者監控駕駛員，并在檢測到功能性警惕性下降、注意力不集中或任何偏離合理表現的行為時發出警告。為了實現這樣的監管，我們可以在方向盤上安裝傳感器，或者添加基于攝像頭的駕駛員監控系統DMS(比如凱迪拉克的超級巡航就配備了類似的技術)。

3

在麻省理工學院的實驗中，最好通過安裝一個面向駕駛員面部的攝像頭來監控駕駛員| MIT2)第二個是配置一個額外的感知控制系統。通過增加第三方系統作為車輛主自動駕駛系統的監管，主駕駛系統可以提供感知和決策功能，同時在出現異常時可以及時提供冗余保護。總的來說，麻省理工學院的兩個建議公司……在功能警戒的框架下，更好地管理人和機器的性能。此外，它還有助于在駕駛過程中遇到CE4等“關鍵事件”時提供額外的保護。由于實驗數據庫樣本數量的限制，該事件尚未被檢測到，但它存在于真實的道路環境中。因此，麻省理工學院的工作人員認為這項研究也有一定的局限性。比如基于實驗分析無法解釋自動駕駛系統的安全性，因為需要分析碰撞相關的數據，也就是說目前的數據量還不夠。此外，他們認為像DMS這樣的注意力管理系統，如果能夠在“功能性警惕”的框架下應用，可以促使駕駛員更加關注道路交通狀況。然而，特斯拉CEO埃隆馬斯克(Elon Musk)可能不這么認為。他在與麻省理工學院助理研究員Lex Fridman的在線對話中說:如果你有一個系統的可靠性達到或低于人類水平，驅動程序監控是有意義的。但是如果你的系統比人類的好得多，可靠得多，驅動程序監控就沒什么用了。“如果這個駕駛輔助系統和人類一樣可靠，或者比你更糟糕，那么駕駛員監控系統DMS的存在就是必要的。但如果你用Autopilot，它很棒，比人類可靠得多，所以特斯拉的車上沒必要裝DMS。采訪中，弗里德曼這位馬斯克的“迷戀的自信”，也提到了產品的“設計操作區”問題。相比之下，通用凱迪拉克的超級巡航只能在已經完成高精度測繪的固定高速公路區域行駛。從ODD的角度來看，比Autopilot窄很多。

表一-實驗者標記自動駕駛剩余次數| MIT麻省理工學院本研究使用的數據來自21輛配備自動駕駛系統的特斯拉車型，總行駛里程為323，384英里。這些模型是私有的。除了上面提到的改裝，MIT團隊并沒有對這些車輛的行駛里程、自動駕駛開啟時間、駕駛模式做出任何限制，也沒有提供任何建議和指導。如下圖所示，該數據集中覆蓋的大部分駕駛區域位于大波士頓和新英格蘭地區，并增加了從馬薩諸塞州到加利福尼亞州和佛羅里達州的額外駕駛數據。

紅色代表車輛在手動模式下的情境軌跡，藍色代表車輛在自動駕駛模式下的行駛軌跡| MIT在手動標注數據的過程中，工作人員需要同時觀看從三個攝像頭采集的視頻數據，而自動駕駛相關系統的狀態、車輛的運動學特征等相關信號則是從一條CAN總線輸出的信息中采集的。整個數據集包含26，638個關于自動駕駛儀使用的“時間戳”。在這里，自動駕駛時間戳被定義為從駕駛員開啟自動駕駛到他由于人為或系統原因離開的一段時間。本研究對“功能性警惕”的分析重點是這個時間戳之前5秒和之后10秒的數據部分。此外，要評估駕駛員的“功能警惕性”，還需要統計導致自動駕駛系統脫離的“關鍵事件(ce)”。麻省理工學院的研究人員將其分為四類:CE1、CE2、CE3和CE4，其中他們的定義如下:CE1:對于“困難場景”，人類駕駛員因為提前預測或及時反應而主動離開自動駕駛系統；CE2:遇到“困難場景”時，自動駕駛會因為無法解決而自動離開；CE3:突然減速(例如，突然剎車等。)在自動駕駛儀運行過程中，導致系統脫離；CE4:在Autopilot運行時遇到“困難場景”，但沒有發生系統脫離或任何事故。我們能找到什么？1.該模式的用法如下圖所示。該數據集覆蓋了323，384英里的總里程，其中112，427英里是在自動駕駛儀的運行條件下完成的，換算成34.8%的里程和15.1%的運行時間。從這兩個圖可以看出，Autopilot出現的頻率是很高的，駕駛員利用這個系統獲得了相應的價值。相反，TACC功能的開啟時間只有3%，所以在MIT的研究中，忽略了對這種工況的分析，主要關注手動和自動駕駛模式的對比，因為它們構成了百分之九十七的服務時間。從目前觀察到的自動駕駛系統的分離情況來看，自動駕駛還處于技術發展的早期階段，還存在一些不完善的地方，其可信性現在決定了人類駕駛員的信任度和功能警惕程度。

0

測試車輛在手動、TACC和自動駕駛工況下的使用時間和里程數| MIT 2。自動駕駛儀運行時駕駛員的“功能警惕”在MIT中有所體現。“功能性警惕”的衡量標準需要考察駕駛員是否能及時有效地察覺CE1和CE2的發生。在18928個自動駕駛時間戳中，有8729個被標記為“困難場景”。詳情請參考表一的描述。分析這個問題的主要目標是得到標有“處理困難場景太晚了”消息的時間戳數量。這些時間戳指的是未能檢測到“關鍵事件”或對“關鍵事件”的反應緩慢，導致駕駛員的“功能警惕性”顯著下降。從表一提供的信息來看，麻省理工學院研究的數據集沒有類似的情況。表二描述了“困難情況”和自動駕駛系統斷開的頻率。“有彎道”是預測系統分離最常見的原因，“車輛距離車道、墻壁或另一車輛太近”是主動與系統分離最常見的原因。這一數據分析的結果對未來人工智能輔助駕駛系統的設計具有重要的指導作用。畢竟這類產品的目的是高效處理人類駕駛員認為“困難”的駕駛場景。

1

表二——主動離開Autopilot系統情況下的“困難場景”分類及這些場景出現的頻率| MIT“不要因為美好的事物不完美而反對它們”在對Autopilot的模式使用和駕駛員的“功能警惕性”進行評估和分析后，MIT的研究人員發現，在調查的數據集中，用戶使用Autopilot的頻率非常高，但他們并沒有過度依賴這個系統，這導致了功能警惕性的顯著下降。他們為這個結論提出了兩個假設:1)探索心理學；2)產品功能還有待完善。后者可能是我們觀察到的司機行為的重要原因。從統計上來說，司機平均每行駛9.2英里就會遇到一次“困難場面”。在這種情況下，駕駛員可以提前預測這種“困難場景”將在何時何地出現，或者及時離開自動駕駛系統，這占總駕駛時間的90.6%。而在另外4.5%的情況下，司機能夠立即對系統脫離或“困難場景”做出反應，充分說明他們的“功能警惕性”非常高。下面我們來詳細解釋一下上述兩個假設的原因:1)探索性嘗試在MIT研究的數據集中，自動駕駛儀運行的大部分時間和間隔都是在高速公路上自由駕駛產生的，但是自動駕駛儀的一些發車記錄發生在普通道路上(比如沒有限速要求的區域)。這可能表明用戶通常探索相似系統在“設計域”之外工作的能力。這種探索和學習的方式可能會讓用戶更加了解類似駕駛輔助系統的局限性，然后用它來應對論文中描述的各種“困難場景”。之所以提出這個假設，是基于MIT團隊和特斯拉車主的討論，以及對真實道路行駛數據的分析。未來，通過更多的數據和進一步的分析，這個假設很可能被進一步驗證，但也有可能被推翻。2)產品功能還有待完善。根據目前業內獲得的共識，自動駕駛作為一種基于人工智能技術的駕駛輔助系統，并沒有能力應對駕駛過程中可能出現的任何極端事件。根據麻省理工學院研究的數據，46.2%的系統脫離是由于人類駕駛員的預判或遇到“困難場景”，換算成相應的比例。在自動駕駛儀運行期間，這種脫離平均每9.2英里發生一次。這意味著自動駕駛系統往往會變得“不可靠”，需要人類駕駛員及時接管。所以從工程的角度來說，基于這樣的數據，未來的產品應該把這個“錯誤率”降到更低的水平。簡單來說，就是駕駛員知道自動駕駛并不完美，駕駛員在嘗試更多自動駕駛的場景，這兩點都讓駕駛員格外注意。這使得駕駛員的“功能警惕性”不會急劇下降。換句話說，“不要因為一個美好的事物不完美就反對它。”一套性能優秀的AI輔助駕駛系統，可能沒有99.99%那么完美，但首先企業要清醒地認識到它的不完美，并將這種認識完整地傳遞給消費者，不斷改進迭代，使其向更完美的方向發展。這是設計產品應該有的邏輯。自動駕駛，前路在哪里？雖然這項麻省理工學院的研究表明，在自動駕駛儀的使用過程中，人類駕駛員的“功能警惕性”并沒有大幅衰減。然而，我們可能仍然不清楚如何設計一個類似Autopilot的基于AI的駕駛輔助系統，以最大限度地發揮“功能警惕”的性能。麻省理工學院的研究人員認為，有兩個建議可能對駕駛員“功能性警惕”框架的管理產生潛在的有益影響。詳見下圖。

2

擴展現有“功能警惕”框架的兩種方法| MIT 1)第一種是建立反饋閉環機制。它包括駕駛員狀態感知和管理的概念，允許機器作為整個系統的監督者監控駕駛員，并在檢測到功能性警惕性下降、注意力不集中或任何偏離合理表現的行為時發出警告。為了實現這樣的監管，我們可以在方向盤上安裝傳感器，或者添加基于攝像頭的駕駛員監控系統DMS(比如凱迪拉克的超級巡航就配備了類似的技術)。

3

在麻省理工學院的實驗中，最好通過安裝一個面向駕駛員面部的攝像頭來監控駕駛員| MIT2)第二個是配置一個額外的感知控制系統。通過增加第三方系統作為車輛主自動駕駛系統的監管，主駕駛系統可以提供感知和決策功能，同時在出現異常時可以及時提供冗余保護。總的來說，麻省理工學院的兩個建議公司……在功能警戒的框架下，更好地管理人和機器的性能。此外，它還有助于在駕駛過程中遇到CE4等“關鍵事件”時提供額外的保護。由于實驗數據庫樣本數量的限制，該事件尚未被檢測到，但它存在于真實的道路環境中。因此，麻省理工學院的工作人員認為這項研究也有一定的局限性。比如基于實驗分析無法解釋自動駕駛系統的安全性，因為需要分析碰撞相關的數據，也就是說目前的數據量還不夠。此外，他們認為像DMS這樣的注意力管理系統，如果能夠在“功能性警惕”的框架下應用，可以促使駕駛員更加關注道路交通狀況。然而，特斯拉CEO埃隆馬斯克(Elon Musk)可能不這么認為。他在與麻省理工學院助理研究員Lex Fridman的在線對話中說:如果你有一個系統的可靠性達到或低于人類水平，驅動程序監控是有意義的。但是如果你的系統比人類的好得多，可靠得多，驅動程序監控就沒什么用了。“如果這個駕駛輔助系統和人類一樣可靠，或者比你更糟糕，那么駕駛員監控系統DMS的存在就是必要的。但如果你用Autopilot，它很棒，比人類可靠得多，所以特斯拉的車上沒必要裝DMS。采訪中，弗里德曼這位馬斯克的“迷戀的自信”，也提到了產品的“設計操作區”問題。相比之下，通用凱迪拉克的超級巡航只能在已經完成高精度測繪的固定高速公路區域行駛。從ODD的角度來看，比Autopilot窄很多。不過在他看來，這種產品設計的邏輯有利有弊。好處是特斯拉車主可以充分了解Autopilot系統的局限性，尤其是在開始的時候，借助儀表顯示屏的信息，可以對可實現的駕駛輔助功能有足夠的了解。但缺點是Autopilot幾乎可以用在任何領域。對此，馬斯克回應道，“只要系統能夠感知道路，就是自動駕駛可以運行的區域。”他還指出，“老實說，我認為讓人們駕駛兩臺沉重的死亡機器是瘋狂的。在未來，人們肯定會被剝奪駕駛權。到時候，你想去哪里，汽車都會通過自動駕駛來實現。當被問及在技術層面上實現全自動駕駛需要解決哪些問題時，馬斯克的回答頗為有趣。他說，“我們不久前推出的FSD計算平臺已經投入量產，具備了實現全自動駕駛的基礎計算能力。剩下的神經網絡和控制軟件可以通過后續的OTA不斷迭代。所以未來特斯拉車型的軟件能力會有突破，自動駕駛系統的可靠性會大大提高。以后只需要監管層的許可就可以了。馬斯克甚至將購買特斯拉比作“投資未來”。他認為“特斯拉是一個具有升值能力的產品。當問題回到“人”的焦點時，弗里德曼認為，目前正在進行路測的公司，如Waymo和優步，只是技術上稱之為L4級自動駕駛。事實上，它們屬于設計邏輯不同的L2級系統，因為總會有一名安全官員參與整個過程，并隨時監控機器的運行。于是他問了馬斯克這樣一個問題，“既然你說特斯拉的Autopilot具備了自動駕駛的計算能力，那你認為什么時候可以做到真正的無人駕駛，沒有人類的監管？對此，馬斯克回答道，“從現在開始，Autopilot至少需要6個月的時間來監控駕駛員是否把手放在方向盤上。而且主要的問題是，從政府監管部門的角度來看，自動駕駛需要達到比人類駕駛更高的安全程度，才能取消人的駕駛權。在這個問題上，業內有很多爭論。你需要大量的數據來證明機器開車比人安全得多。在我看來，這個比例需要達到200%或者300%。“至于我是如何得到這個數據的，”馬斯克回答道，“主要是基于每英里的事故頻率。目前從規模上看，我們沒有那么多關于交通死亡事故的數據，所以主要是基于交通事故率來分析。其他的，比如受傷的可能性……包括永久性傷害或死亡的可能性，也在分析范圍之內。最后算出來的比例，至少機器比人可靠200%以上，可能不需要監督。Autopilot的致命弱點其實是針對Autopilot的安全性，業界對特斯拉頗有微詞。尤其是在上個月舉行的投資者大會上，馬斯克為朋友“使用激光雷達”的言論，引起了自動駕駛技術領域的熱議。但是，就像麻省理工學院研究給出的結論一樣，Autopilot還存在很多不足，需要不斷改進，所以駕駛員需要在系統運行時實時監控車輛。一旦出現危險征兆或困難情況，人工接管是最安全的。上個月，美國國家交通安全委員會(NTSB)發布的一份調查報告顯示，3月份在美國佛羅里達州發生的一起致命的特斯拉事故中，事故發生時自動駕駛儀被激活，司機的手沒有放在方向盤上。盡管特斯拉官方一直強調Autopilot屬于輔助駕駛系統，但駕駛員在開啟后仍然要握著方向盤保持注意力。但實際上，在之前的很多致命事故中，幾乎所有的車主都處于“拖把”狀態，完全把命交給了一套功能還有待完善的智能機器。這也是為什么MIT團隊給出了額外的建議，希望Autopilot能夠配置相應的駕駛員監控系統，同時也要做相應的冗余配置。一旦駕駛員松開方向盤，立即進行聲光預警是非常必要的。但在馬斯克看來，自動駕駛的能力遠在人類駕駛員之上，不需要像DMS那樣增加額外的功能。而這種對自己產品的“自信”映射到產品上，也成為了Autopilot的致命弱點。自2018年第三季度以來，特斯拉發布了一系列車輛安全報告，提供本季度特斯拉車輛造成的事故數量(無論是否啟用自動駕駛)。從官網獲得的信息顯示，2018年第三季度，自動駕駛開啟的平均事故率為334萬英里，而手動模式的平均事故率為192萬英里。Q1 2019年最新數據顯示，兩項數據均有所下降，分別為1例/287萬英里和1例/176萬英里。

0

特斯拉每季度在官網發布車輛安全報告|特斯拉。根據美國國家交通和公路安全管理局(NHTSA)發布的最新數據，美國乘用車的事故率平均為每43.6萬英里一次，這包括了所有有和沒有類似自動駕駛系統的車輛。相比之下，特斯拉似乎仍然無愧于“世界上最安全的汽車”的稱號。雖然自動駕駛系統還有很多不足，但毫無疑問，它極大地改變了用戶的駕駛體驗。比如特斯拉去年10月已經在北美開放了Navigate on Autopilot功能，支持高速公路閘口自動進出，同時可以實現自動并線，在受限場景(高速公路等)下接近L3自動駕駛能力。).在上個月面向投資者的“自主日”活動中，馬斯克表示“全自動駕駛的目標將在2020年實現。雖然外界對這種說法充滿質疑，但在FSD計算平臺的加持下，自動駕駛儀的自動化能力正在向著更高的層次迭代，這是不爭的事實。但更重要的是，一個優秀的AI輔助駕駛系統可能達不到99.99%的完美，但首先企業要清楚地認識到它的不完美，并將這種認識完整地傳遞給消費者，不斷改進迭代，使其向更完美的方向發展。這是設計產品應該有的邏輯。不過在他看來，這種產品設計的邏輯有利有弊。好處是特斯拉車主可以充分了解Autopilot系統的局限性，尤其是在開始的時候，借助儀表顯示屏的信息，可以對可實現的駕駛輔助功能有足夠的了解。但缺點是Autopilot幾乎可以用在任何領域。對此，馬斯克回應道，“只要系統能夠感知道路，就是自動駕駛可以運行的區域。”他還指出，“要磨練……，我覺得讓人開兩部重型死亡機器太瘋狂了。在未來，人們肯定會被剝奪駕駛權。到時候，你想去哪里，汽車都會通過自動駕駛來實現。當被問及在技術層面上實現全自動駕駛需要解決哪些問題時，馬斯克的回答頗為有趣。他說，“我們不久前推出的FSD計算平臺已經投入量產，具備了實現全自動駕駛的基礎計算能力。剩下的神經網絡和控制軟件可以通過后續的OTA不斷迭代。所以未來特斯拉車型的軟件能力會有突破，自動駕駛系統的可靠性會大大提高。以后只需要監管層的許可就可以了。馬斯克甚至將購買特斯拉比作“投資未來”。他認為“特斯拉是一個具有升值能力的產品。當問題回到“人”的焦點時，弗里德曼認為，目前正在進行路測的公司，如Waymo和優步，只是技術上稱之為L4級自動駕駛。事實上，它們屬于設計邏輯不同的L2級系統，因為總會有一名安全官員參與整個過程，并隨時監控機器的運行。于是他問了馬斯克這樣一個問題，“既然你說特斯拉的Autopilot具備了自動駕駛的計算能力，那你認為什么時候可以做到真正的無人駕駛，沒有人類的監管？對此，馬斯克回答道，“從現在開始，Autopilot至少需要6個月的時間來監控駕駛員是否把手放在方向盤上。而且主要的問題是，從政府監管部門的角度來看，自動駕駛需要達到比人類駕駛更高的安全程度，才能取消人的駕駛權。在這個問題上，業內有很多爭論。你需要大量的數據來證明機器開車比人安全得多。在我看來，這個比例需要達到200%或者300%。“至于我是如何得到這個數據的，”馬斯克回答說，“主要是基于每英里的事故頻率。目前從規模上看，我們沒有那么多關于交通死亡事故的數據，所以主要是基于交通事故率來分析。其他的，比如受傷的概率，包括永久受傷或者死亡的可能性，也在分析的范圍之內。最后算出來的比例，至少機器比人可靠200%以上，可能不需要監督。Autopilot的致命弱點其實是針對Autopilot的安全性，業界對特斯拉頗有微詞。尤其是在上個月舉行的投資者大會上，馬斯克為朋友“使用激光雷達”的言論，引起了自動駕駛技術領域的熱議。但是，就像麻省理工學院研究給出的結論一樣，Autopilot還存在很多不足，需要不斷改進，所以駕駛員需要在系統運行時實時監控車輛。一旦出現危險征兆或困難情況，人工接管是最安全的。上個月，美國國家交通安全委員會(NTSB)發布的一份調查報告顯示，3月份在美國佛羅里達州發生的一起致命的特斯拉事故中，事故發生時自動駕駛儀被激活，司機的手沒有放在方向盤上。盡管特斯拉官方一直強調Autopilot屬于輔助駕駛系統，但駕駛員在開啟后仍然要握著方向盤保持注意力。但實際上，在之前的很多致命事故中，幾乎所有的車主都處于“拖把”狀態，完全把命交給了一套功能還有待完善的智能機器。這也是為什么MIT團隊給出了額外的建議，希望Autopilot能夠配置相應的駕駛員監控系統，同時也要做相應的冗余配置。一旦駕駛員松開方向盤，立即進行聲光預警是非常必要的。但在馬斯克看來，自動駕駛的能力遠在人類駕駛員之上，不需要像DMS那樣增加額外的功能。而這種對自己產品的“自信”映射到產品上，也成為了Autopilot的致命弱點。自2018年第三季度以來，特斯拉發布了一系列車輛安全報告，提供本季度特斯拉車輛造成的事故數量(無論是否啟用自動駕駛)。根據從官網獲得的信息，2018年第三季度，自動駕駛儀開啟時的平均事故率為334萬英里……而手動模式下的平均事故率為192萬英里。Q1 2019年最新數據顯示，兩項數據均有所下降，分別為1例/287萬英里和1例/176萬英里。

0

特斯拉每季度在官網發布車輛安全報告|特斯拉。根據美國國家交通和公路安全管理局(NHTSA)發布的最新數據，美國乘用車的事故率平均為每43.6萬英里一次，這包括了所有有和沒有類似自動駕駛系統的車輛。相比之下，特斯拉似乎仍然無愧于“世界上最安全的汽車”的稱號。雖然自動駕駛系統還有很多不足，但毫無疑問，它極大地改變了用戶的駕駛體驗。比如特斯拉去年10月已經在北美開放了Navigate on Autopilot功能，支持高速公路閘口自動進出，同時可以實現自動并線，在受限場景(高速公路等)下接近L3自動駕駛能力。).在上個月面向投資者的“自主日”活動中，馬斯克表示“全自動駕駛的目標將在2020年實現。雖然外界對這種說法充滿質疑，但在FSD計算平臺的加持下，自動駕駛儀的自動化能力正在向著更高的層次迭代，這是不爭的事實。但更重要的是，一個優秀的AI輔助駕駛系統可能達不到99.99%的完美，但首先企業要清楚地認識到它的不完美，并將這種認識完整地傳遞給消費者，不斷改進迭代，使其向更完美的方向發展。這是設計產品應該有的邏輯。

標簽：特斯拉凱迪拉克Model XModel S發現

汽車資訊熱門資訊