特斯拉司機(jī)輔助駕駛系統(tǒng)中使用的機(jī)器學(xué)習(xí)存在弱點(diǎn) 在限速標(biāo)志上粘貼電子膠帶誘使其在限速區(qū)超速
據(jù)外媒報(bào)道,計(jì)算機(jī)安全解決方案供應(yīng)商McAfee的研究人員日前發(fā)現(xiàn),電動(dòng)汽車制造商特斯拉的司機(jī)輔助駕駛系統(tǒng)存在潛在漏洞。他們通過(guò)在限速標(biāo)志上粘貼電子膠帶,從而誘使特斯拉汽車在限速區(qū)超速行駛。
McAfee的技術(shù)人員將電子膠帶以水平方式粘貼在時(shí)速35公里限速標(biāo)志上。根據(jù)McAfee周三發(fā)布的研究顯示,這一變化導(dǎo)致特斯拉車輛讀取的限速數(shù)據(jù)為每小時(shí)137公里,從而促使其巡航控制系統(tǒng)自動(dòng)加速。
McAfee表示,這個(gè)問(wèn)題對(duì)司機(jī)來(lái)說(shuō)并不算是個(gè)嚴(yán)重的風(fēng)險(xiǎn)。沒(méi)有人受傷,方向盤后面的研究人員能夠安全地讓汽車減速。
但McAfee高級(jí)威脅研究主管史蒂夫·波沃爾尼(Steve Povolny)表示,去年結(jié)束的18個(gè)月研究結(jié)果表明,特斯拉司機(jī)輔助駕駛系統(tǒng)中使用的機(jī)器學(xué)習(xí)存在弱點(diǎn)。其他研究表明,物理世界的變化會(huì)使這些系統(tǒng)變得混亂。
測(cè)試涉及2016年生產(chǎn)的Model S和Model X,它們使用了Mobileye公司提供的攝像頭系統(tǒng),Mobileye現(xiàn)在是英特爾旗下子公司。多家汽車制造商都在使用Mobileye的系統(tǒng),盡管特斯拉在2016年停止使用它們。
據(jù)McAfee稱,對(duì)Mobileye最新攝像系統(tǒng)的測(cè)試沒(méi)有發(fā)現(xiàn)同樣的漏洞,特斯拉的最新車輛顯然不依賴于交通標(biāo)志識(shí)別。特斯拉沒(méi)有回復(fù)尋求對(duì)該研究發(fā)表評(píng)論的電子郵件。
波沃爾尼表示:“制造商和供應(yīng)商意識(shí)到了這個(gè)問(wèn)題,他們正在從這個(gè)問(wèn)題中吸取教訓(xùn),但這并不能改變這個(gè)行業(yè)存在很多盲點(diǎn)的事實(shí)。”
可以肯定的是,今天發(fā)生這樣的事件對(duì)現(xiàn)實(shí)世界的威脅是有限的。首先,自動(dòng)駕駛汽車仍處于開發(fā)階段,大多數(shù)汽車正在接受安全司機(jī)的測(cè)試。現(xiàn)在有先進(jìn)的司機(jī)輔助駕駛系統(tǒng)的車輛仍然需要人類司機(jī)保持專心。
McAfee的研究人員只能通過(guò)復(fù)制特定的序列來(lái)欺騙系統(tǒng),這些序列包括當(dāng)司機(jī)輔助功能打開并遇到改變的限速標(biāo)志時(shí)才會(huì)發(fā)揮作用。制造商也在將地圖技術(shù)集成到反映適當(dāng)限速的系統(tǒng)中。
波沃爾尼說(shuō):“我們不太可能在野外看到這種情況,或者攻擊者會(huì)試圖利用這一點(diǎn),直到我們擁有真正的自動(dòng)駕駛汽車。不過(guò)到那時(shí),我們希望這些類型的缺陷應(yīng)該已經(jīng)得到解決。”
Mobileye在一份聲明中表示,人類司機(jī)也可能被這樣的修改所愚弄,研究人員測(cè)試的系統(tǒng)旨在幫助人類司機(jī),而不是支持自動(dòng)駕駛。
該公司表示:“自動(dòng)駕駛汽車技術(shù)將不僅僅依賴于傳感器,還將得到其他各種技術(shù)和數(shù)據(jù)的支持,如眾包地圖,以確保從攝像頭傳感器接收到的信息的可靠性,并提供更強(qiáng)大的冗余和安全。”
McAfee的研究緊跟在被稱為對(duì)抗性機(jī)器學(xué)習(xí)的類似學(xué)術(shù)工作之后,這是個(gè)相對(duì)較新的領(lǐng)域,該研究基于計(jì)算機(jī)的學(xué)習(xí)系統(tǒng)如何被操縱。例如,2017年的研究人員發(fā)現(xiàn),在停車標(biāo)志上的特定位置放置四個(gè)黑白貼紙可以“欺騙”計(jì)算機(jī)視覺系統(tǒng),讓其無(wú)法看到時(shí)速72公里的限速標(biāo)志。
杜克大學(xué)機(jī)器人學(xué)教授、自動(dòng)駕駛汽車專家米西·卡明斯(Missy Cummings)表示,這個(gè)問(wèn)題并不是特斯拉或Mobileye特有的,而是驅(qū)動(dòng)自動(dòng)駕駛汽車的先進(jìn)系統(tǒng)固有的一個(gè)更廣泛的弱點(diǎn)。研究人員已經(jīng)表明,在沒(méi)有訪問(wèn)系統(tǒng)本身的情況下改變物理環(huán)境,會(huì)導(dǎo)致潛在的嚴(yán)重故障。
卡明斯解釋稱:“這就是為什么它是如此危險(xiǎn)的原因,因?yàn)槟悴恍枰M(jìn)入系統(tǒng)來(lái)黑它,你只需要改變我們所在的世界即可。”(騰訊科技審校/金鹿)
相關(guān)閱讀
-
助力打造科技創(chuàng)新和產(chǎn)業(yè)發(fā)展引擎 宜興...
以前我們?cè)跓o(wú)錫的時(shí)候就聽說(shuō)宜興稅務(wù)部門的服務(wù)態(tài)度好,沒(méi)想到是如... -
著力完善科技創(chuàng)新體系 全力鍛造科技創(chuàng)...
十三五以來(lái),蘭州石化公司全面推進(jìn)創(chuàng)新驅(qū)動(dòng)和人才強(qiáng)企戰(zhàn)略,實(shí)施科... -
常州經(jīng)開區(qū)入選國(guó)家工業(yè)互聯(lián)網(wǎng)平臺(tái)賦能...
9月6日,工信部對(duì)國(guó)家新型工業(yè)化產(chǎn)業(yè)示范基地工業(yè)互聯(lián)網(wǎng)平臺(tái)賦能數(shù)... -
實(shí)施5G基站建設(shè)提速工程 促進(jìn)5G基站建...
記者今天從省工信廳獲悉,截至今年9月中旬,全省累計(jì)建成5G基站5 8... -
加快培養(yǎng)復(fù)合型人才培訓(xùn)需求 做好成果...
為進(jìn)一步推動(dòng)全行興動(dòng)力創(chuàng)新創(chuàng)優(yōu)項(xiàng)目實(shí)踐深化,促進(jìn)各項(xiàng)目小組相互... -
加快稅收征管數(shù)字化升級(jí) 提升納稅人幸...
這份電子發(fā)票的成功開具,標(biāo)志著國(guó)家稅務(wù)總局山西省稅務(wù)局的晉稅通A...
- 如何培養(yǎng)學(xué)生的空間思維能力(如何培養(yǎng)學(xué)生2022-11-25
- 十滴水洗澡的功效(十滴水打一字)2022-11-25
- 焦點(diǎn)快播:“外國(guó)人講安徽故事·合肥站”宣2022-11-25
- 2022黃山旅游節(jié)推出14項(xiàng)主題活動(dòng)2022-11-25
- 世界微速訊:以群眾口碑檢驗(yàn)富裕江西幸福江2022-11-25
- 內(nèi)雙畫眼妝選擇什么樣的眼影??jī)?nèi)雙眼妝怎么2022-11-25
- 眼影選購(gòu)需要注意哪些方面?眼影是不是越貴2022-11-25
- 深邃歐式眼妝教程 歐美上挑眼線怎么畫?-2022-11-25
- 環(huán)球觀熱點(diǎn):中分劉海怎么打理好看?哪些中2022-11-25
- 適合中分發(fā)型的臉型有哪些?2022年短發(fā)發(fā)型2022-11-25
- 全球今熱點(diǎn):中分發(fā)型有哪些優(yōu)勢(shì)?方形臉適2022-11-25
- 中分短發(fā)發(fā)型有哪些?你更喜歡哪一款?|全2022-11-25
- 中分適合什么臉型?劉海中分怎么處理?2022-11-25
- 劉海分開合不上怎么恢復(fù)?去理發(fā)店可以嗎?2022-11-25
- 【世界新要聞】圓臉臉型特點(diǎn)是什么?圓臉適2022-11-25
- 不想中分怎么變回來(lái)?哪些臉型留中分發(fā)型不2022-11-25
- 環(huán)球熱推薦:中分劉海留煩了想換發(fā)型怎么辦2022-11-25
- 熱點(diǎn)聚焦:劉海中分怎么解決?劉海剪厚了怎2022-11-25
- 如何讓頭發(fā)快速生長(zhǎng)?剛?cè)就觐^發(fā)第二天就洗2022-11-25
- 男士中分適合燙大卷還是小卷?男生燙發(fā)發(fā)型2022-11-25
- 自然卷應(yīng)該使用什么樣的護(hù)發(fā)產(chǎn)品?自然卷該2022-11-25
- 月餅分著吃寓意好嗎?為什么說(shuō)月餅吃多了也2022-11-25
- 月餅?zāi)芗逯詥幔吭嘛灥某苑ㄓ心男縷環(huán)球2022-11-25
- 中秋節(jié)該怎么送禮?中秋節(jié)后天氣會(huì)轉(zhuǎn)涼嗎?2022-11-25
- 月餅烤完很硬怎么回事?月餅的好壞主要看什2022-11-25
- 十八數(shù)藏引入新投資方,深度布局產(chǎn)業(yè)化2022-11-25
- 地鐵逃生怎么下載(地團(tuán)網(wǎng))|要聞速遞2022-11-25
- 女人在床上說(shuō)的最刻薄的話_世界即時(shí)看2022-11-25
- 玉竹可以和什么一起泡酒?玉竹酒做法是什么2022-11-25
- 玉竹能放多久?玉竹食用方法有哪些?-全球2022-11-25