“催眠”特斯拉,這樣瘋狂的事情,也許只有在世界頂級黑客會議DEF CON上才能看到。而且,沒錯,又是中國黑客干的。先來說說特斯拉輔助駕駛(AutoPilot)。這個讓埃隆·馬斯克引以為傲的系統,已經在全世界的特斯拉汽車上大規模應用。這個系統可以實現自動跟車,自動轉向,甚至在堵車的時候,也可以自動跟著前車反復啟停。
講真,輔助駕駛系統的可用性非常高。諸多特斯拉車主已經嘗試過在早高峰把車開上北京的二環,打開輔助駕駛,閉目養身半小時之后再切換成手動模式駛離主路。
然而,可用性和可靠性在某些特殊的時刻,并不那么協調。
這輛特斯拉生前的最后一刻,正是開啟了輔助駕駛模式,據說,系統把橫在前方的純白色卡車識別為了遠方的大樓或廣告牌。
而就在前兩天,中國特斯拉自動駕駛的“首撞”也發生在北京北五環上。
頻發的撞車事故至少說明一點,那就是輔助駕駛系統還有諸多設計缺陷。而來自中國的黑客們,用實際的攻擊測試,證明了輔助駕駛系統遠不是“偶爾失靈”這么簡單。稍不留意,它就可能被人利用,有計劃地發起各種“慘烈”的攻擊。
劉健皓,360汽車信息安全團隊負責人,中國特斯拉破解第一人;閆琛,浙江大學博士,智能系統安全實驗室成員,著名的汽車黑客。正是他們帶領團隊全球首次用實車實現攻擊特斯拉自動駕駛系統。
劉健皓詳細介紹了特斯拉輔助駕駛系統的工作原理。
汽車自動駕駛系統所用到的所有傳感器,包括遠距離雷達、超聲波傳感器、可見光傳感器、激光雷達。其測量范圍,精準度和有效距離各有優劣,一般組合使用。
特斯拉的眼睛:各類傳感器
輔助駕駛實現的首要一點就是:認清周圍的環境。
為了實現這一點,特斯拉選用了三種不同的“眼睛”:
特斯拉裝配的雷達,頻率高達77GHz,這個超高頻段的技術,曾經作為美國軍方的保密技術,禁止對華出售。兩顆雷達分別被安裝在特斯拉的前后,用以探測前后方遠距離的障礙物,可以識別最遠達到150米的障礙物。
超聲波傳感器:
特斯拉周身布滿12玫超聲波傳感器,用以感知車身周圍大概五米范圍的障礙物。
高清攝像頭:
這是特斯拉的諸多“眼睛”中唯一可以識別可見光的。攝像頭被放置在汽車前后,用以識別車道線和限速、禁行一類的道路標志。
劉健皓說,輔助駕駛系統就是根據這些傳感器采集的數據,通過自動駕駛的算法,實現規劃路徑和自動巡航等所有功能。
他和閆琛的攻擊思路非常清晰:只要黑掉這些傳感器,讓數據的錯誤進入系統,就一定會產生嚴重攻擊效果。
通俗來說,就是“催眠”特斯拉。讓這部世界上最先進的自動駕駛汽車進入可怕的“夢魘”狀態。
圖片說明:特斯拉車身上所有傳感器的位置(藍色為毫米波雷達,灰色為攝像頭,紅色為超聲波傳感器)
干掉超聲波傳感器
由于超聲波傳感器主要分布在車身周圍,而且主要用來判斷近距離物體的信息。所以在實際應用中,它們的主要作用是感知附近有沒有障礙物向自己靠攏,從而向相反方向進行規避。
閆?。航涍^逆向研究,我們發現特斯拉使用的超聲波傳感器發射的波長為40Khz,而這種波長的超聲波在現實世界里并不常見。例如搖動鑰匙串或者大卡車制動的時候,都會發出這樣的超聲波。
但是由于現實世界中的40Khz超聲波不會長時間持續,強度也沒有那么大,所以看樣子特斯拉并沒有認真研究人造超聲波對輔助駕駛系統的影響。
噪音攻擊
他們于是嘗試對特斯拉的超聲波傳感器實行一種噪音攻擊(Jamming)。簡單來說就是用更大的強度播放同樣波長的噪音,這樣就會使得超聲波感應器無法回收自己發出的信號,從而沒有辦法測量周圍物體的舉例。
讓人驚奇的是,在這種情況下,特斯拉并沒有選擇提示用戶切換回手動模式,反而繼續按照原速運動。此時如果有物體靠近特斯拉,即使發生碰撞,它都不會有任何反應動作。
欺騙攻擊
通過信號分析儀進一步破解超聲波信號,劉健皓和閆琛完全掌握了超聲波的結構,于是他們嘗試用信號發射裝置欺騙傳感器。
“實誠”的特斯拉果然上當,會向決策系統傳遞虛假的信號。于是在空無一車的地下車庫,居然啟動了自動跟車模式;
而當劉健皓向特斯拉發出了前方近距離有障礙物的虛擬信號后,特斯拉猛然來了一個剎車。
肉包子打狗”攻擊
黑客們找來了超聲波吸附材料。超聲波信號碰到這種海綿狀材料,可謂肉包子打狗——有去無回。在試驗中,無論什么兇險的障礙物,只要籠罩超聲波吸附材料,在特斯拉眼中一律是一馬平川,不撞南墻死不回頭。
當然,劉健皓也覺得目前的吸波材料過于厚重,在現實中用來攻擊有點搞笑。不過他說:“在未來如果實現材料的輕薄甚至透明,這種攻擊就會變得非常危險了?!?/p>
干掉毫米波雷達
毫米波雷達是諸多特斯拉傳感器中,最為精密的一個了。77GHz的超高頻率已經超出一般儀器可以解析的范圍,
閆琛告訴記者,單單是借來研究毫米波雷達的設備,就可以買三輛特斯拉。劉健皓甚至開玩笑說,借這臺設備是整個研究中的一個最大難點。
然而,有了分析設備,只是萬里長征的第一步。對77GHz的超高頻信號進行降頻之后的分析,也是一個非常艱難的過程。
對于毫米波雷達,同樣可以實現噪音攻擊和欺騙攻擊。也就是說,可以讓特斯拉在高速行駛中,完全忽略前面的障礙物,也可以憑空讓特斯拉緊急制動。
理論上來說,這樣的攻擊可以在幾十米開外進行。就像用手槍射擊標靶。不過毫米波發射器的波束比較集中,在實際攻擊中,要完美擊中汽車的雷達,這需要非常好的精確度?!安贿^只要有足夠的資金購買高級的設備,這些限制都不是問題?!遍Z琛說
干掉光學傳感器(高清攝像頭)
也許對于攝像頭的攻擊是唯一一種普通人都可以玩轉的攻擊。你只需要一個大功率手電,猛烈照射攝像頭,就會造成它的短暫致盲,這個特性和所有的攝像頭,以及人眼的原理都是一致的。
文章開頭提到的特斯拉撞擊卡車的案例,就是因為卡車車廂白得一塵不染,導致攝像頭犯了“雪盲癥”,既無法找到前方的車道線和標志,也無法判斷這個物體的真實屬性。所以才釀成車禍。(你可能要問先進的毫米波雷達當時在做神馬。沒錯,卡車太高了以至于雷達信號從車底完美躲過。)
當然,特斯拉的攝像頭也支持紅外夜視,所以用紅外線手電照射攝像頭,同樣會導致它“失明”。
特斯拉怎么說
在此次DEF CON演講之前大約一個月,劉健皓和閆琛已經把這組缺陷打包提交給了特斯拉。而特斯拉在兩周前專門和這個黑客團隊進行了一個小時的電話會議。
雖然最后的結論并不很振奮人心:特斯拉表示還要再花時間評估一下這些缺陷在實際情況中對于安全的威脅程度。
不過,劉健皓認為這些缺陷非常值得引起注意:
從前的汽車傳感器只是作為人類駕駛的一個參考,并不直接影響駕駛的決策。而特斯拉的輔助駕駛系統讓傳感器直接接通了汽車的CAN總線,這意味著對于汽車的攻擊面從原來的總線攻擊和車聯網攻擊又擴大到了傳感器攻擊。
而從現在的趨勢上來看,機器人的一個重要分支就是帶有圖像識別和人工智能的“汽車人”,對于能力越來越大的“汽車人”來說,這種攻擊所能造成的傷害會越來越大。
閆琛說:“面對可能性越來越高的攻擊,輔助駕駛系統并沒有對信號的異常檢測機制,這是一個巨大的隱患。例如如果洗頭膏檢測到信號異常,首要的行動應該是保證汽車安全,而不是什么都不做?!?/p>
有一點事實不容置疑,那就是輔助駕駛已經改變了人們的駕駛風格。人們對于機器的依賴只能加深,從不后退。而這種被人類信賴以至于托付生命安全的技術,是難以承受諸多的缺陷的。當人躺在車里睡大覺的時候,他的特斯拉也同樣進入了“夢鄉”。這恐怕是對人類智慧最大的嘲諷。
劉健皓和閆琛對于特斯拉的破解,其實更像一次警示。我們把自己的感官托付給機器的那一瞬間,就要開始奮力阻止《黑客帝國》中所描繪的可怕結局。
評論
查看更多