不用駭進系統,其實在號誌貼上簡單的貼紙就能擾亂自動駕駛車了(!)

這問題顯然可大可小,但用在車輛上的技術還是必須用極高標準來看待。

不用駭進系統,其實在號誌貼上簡單的貼紙就能擾亂自動駕駛車了(!)

在「車輛與基礎設施互聯」(V2I)技術普及之前,現階段無人車與駕駛輔助系統還是需要倚靠視覺辨識,才能透過號誌牌確認道路的使用狀態。但根據華盛頓大學的研究指出,其實比起自動駕駛車系統被駭,這些路邊的號誌牌反而更容易透過簡單的改造,讓深度學習的視覺系統被欺騙導致而可能導致意外發生。重點是,這些貼紙可能看起來就像上圖這樣看起來只是像個貼紙塗鴉惡作劇,但實際上卻因為一個被刻意用來欺騙混淆行車輔助視覺系統的演算法所騙,把停止(Stop)號誌判斷成了限速牌,進而可能造成行車意外 -- 另外一例則是讓自動駕駛車的視覺系統把右轉牌子誤認為停止或其他號誌牌。

針對這樣的狀況,目前看來道路養護單位將可能要多注意類似刻意污損塗鴉號誌的問題。然而在這類車輛全面導入 V2I 之前,除了如華盛頓大學學者建議的,可以改採具備可驗證資訊正確性圖樣的號誌牌或透過邏輯判斷之外,可能就只能針對物理上的讓人不能靠近號誌牌或很難改造黏貼的材質這方面來防止了。

不然,對於有心攻擊或對這類系統進行惡作劇的人士,這樣簡單貼上特製圖樣貼紙的方式,真的比起駭入單一車輛系統要來得簡易很多。這將會是現代交通號誌需要因應時代而改進的課題之一,現階段的自動駕駛系統可能也需要針對這樣的刻意誤導的演算法拿出些辦法,畢竟車輛使用者的安全,絕對是要放在第一位才是。

來源: ArXiv.org

經由: Engadget, Car and Driver, Wired