一張貼紙便可迷惑自動駕駛系統？
來源：科技日報
?
2019-05-13 09:20:22
自動駕駛的安全性一直以來受到各方的關注。而據新智元報道，近日由北京航空航天大學、悉尼大學和劍橋大學的一項新研究表明，一張紙便可以“迷惑”AI自動駕駛系統，將一張用打印機打印出來的涂鴉貼畫貼在路牌上就可以導致AI自動駕駛系統分類錯誤。目前該論文已在全球人工智能頂級會議AAAI 2019上發表。
在實驗中，研究人員將生成的涂鴉貼畫貼在北航校園中標為“限速20km/h”的真實路牌上后，AI自動駕駛系統完全被誤分類，將其識別為“No Entry”(禁行)。該涂鴉貼畫在論文中被稱為“對抗補丁”，正是這塊補丁“欺騙”了AI自動駕駛系統，讓系統將該路牌誤分類。
經實驗證實，用該方法生成的對抗補丁具有穩定的攻擊效果，將其貼在路牌上后，不會影響人類對于路牌語義信息的認知，且由于場景語義相關性人類也不會感覺到違和。但是，該對抗補丁對于AI自動駕駛系統則是毀滅性的。例如，這種攻擊可能被惡意地用來攻擊自動駕駛系統，入侵者只要將一小片貼畫貼在路牌上，當自動駕駛汽車駛過時就可能會造成系統的致命錯誤，導致車禍產生。
相關推薦
-
8月5日，滴滴成立自動駕駛獨立公司
-
重慶仙桃國際大數據谷:體驗5G自動駕駛
-
5G+AI興起迎來娛樂產業進化新時代
-
一起看中國AI芯“覺醒”的這五年
-
一起看百度AI的冷水與熱情！
-
阿里AI智能識別垃圾功能在手機淘寶上線
-
智能產業快速發展 保護AI技術，靠專利還是商業機
-
犯罪分子利用AI詐騙！手段不斷翻新，四種形式防不勝
-
明星公司Engineer.AI被曝出用碼農冒充人工智能
-
北京超越杭州，成為國內AI最強城市
-
AI能實現“因材施教”？加大智能教育關鍵技術研發
-
AI“換臉”軟件涉嫌侵權
-
上海發布AI行動方案，將聚焦實施7個專項行動
-
AI配對這項技術距離我們并不遙遠
-
AI換臉風波：去哪里尋找讓其“懸崖勒馬”的“繩”？
-
學生課堂引入AI視頻監控 專家：會造成對學生不信任
-
AI產業蓬勃發展遇上千萬人才缺口
-
人工智能一邊加快落地，一邊補齊短板
-
AI換臉軟件“ZAO”涉嫌侵犯隱私？網信辦：將采取措
-
穩住豬肉市場 AI養豬頗有可為
-
中消協表示:除螨類家電效果僅與吸力大小相關
-
在鄭州晨楓教育學校戒網癮待三天全身多處淤青 孩子
-
5月份我國物價水平總體保持穩定
-
IPO在即！國臺酒業卻假貨泛濫 渠道存在失控風險
-
駐馬店平輿縣農商銀行：別人貸走40多萬，我卻上了黑
-
最新消息！14家企業跨地區增值電信業務經營許可擬注
-
女子辭職返鄉做直播 幫助鄉親賣貨
-
企業復工復產用上“云助手” 便利且賦能
-
微軟副總裁用Surface Duo雙屏手機 稱Surface Duo改變了一切
-
持股13.3%，騰訊成為B站第二大股東
-
羅永浩帶貨致小龍蝦爆單！發貨延遲 公司致歉并補償
-
外媒報道稱：華為希望谷歌Play商店應用上架自家商店
-
重慶：瞄準“宅生活”，發力“線上城市”
-
如何在移動設備上也玩PS4？
-
華為P40 Pro：256 GB版售價約8500元
-
信部回應“中國手機用戶暴減”的情況
-
蘋果跌破1萬億美元神話：iPhone 5G懸了
-
教師“云課堂”授課，化身“網紅主播”
-
科研創新 民企后勁十足
-
抗疫復工兩手硬 看看這些行業如何做