社交账号登录

社交账号登录

0/34

上传头像

拖拽或者缩放虚线框,生成自己满意的头像

头像

预览

忘记密码

设置新密码

智能

道路指示牌上贴个贴纸,就能把自动驾驶汽车给骗到了

徐弢2017-08-07 12:42:21

“看不到”会跳的袋鼠,错认道路指示牌,自动驾驶系统要解决的问题还有很多。

自动驾驶汽车“看路”的能力可能还需要进一步提升。

一项来自华盛顿大学、密西根大学、石溪大学和加利福尼亚大学的研究显示,欺骗自动驾驶车辆比较容易,给路牌上贴个贴纸就把系统骗了。

华盛顿大学的安全研究员 Yoshi Kohno 跟他的同事们开发了一个新的算法 Robust Physical Perturbations (RP2),生成一些彩色或者黑白的图案,可以迷惑自动驾驶汽车用于记录和分析道路信息的路标分类器(road sign classifier)。

他们用这套算法做了两次种方式的尝试,使用的是家用打印机。一个是打印出了一张右转弯的标志,覆盖在原有的路牌上,一个是给停车标志用彩色贴纸贴出了 love 和 hate 两个词,对应的路标分类器将其都误认为是限速 45 英里/小时(折合 72 千米/小时)的标志。这两种实验在 1.5-12 米的范围内、5-40 度视角内都有效。

这跟自动驾驶系统用使用图像识别和深度学习算法有关系,深度学习算法用来研究、分类这些道路上记录的行人、指示灯、其他车辆。图像识别系统先记录再分类识别,但使用算法来研究这些道路指示牌容易出现问题。

在期刊 arXiv.org 上公布的论文中,研究员们写道:“我们认为,考虑到警告信号的相似性,一些微小的干扰就足以使分类器感到困惑。”即便是不清楚这些分类器具体的分类方式、算法,研究员们认为,他们可以根据案例反向进行研究出一些模型来,仍然可以迷惑这些自动驾驶系统依赖的路标分类器。

修改道路指示牌是违法,但这不代表没有人会恶意涂改。换句话说,这是一个小概率事件,但在一些人为恶意操作,或者是恶劣天气下,这种情况仍然可能会发生。

这不是自动驾驶系统第一次出现潜在的隐患。此前沃尔玛自动驾驶项目 Drive Me 的技术总监戴维·皮克特承认,当澳洲的袋鼠跳到空中时,他们在测试的自动驾驶汽车会判断袋鼠跟车的距离拉开,可能没法及时调整车速,最终可能会导致碰撞事件。

现在看起来,在识别路牌上,自动驾驶汽车暂时还没有人眼好用。

题图来自:维基百科

喜欢这篇文章?去 App 商店搜 好奇心日报 ,每天看点不一样的。