周鸿祎:特斯拉每出一辆新车都能被模拟劫持
中国经济网 | 2018-05-17 10:19

“机器变成自主意识,会对人类产生危害,很多无人值守系统,一旦被黑客劫持,这个扳机就会控制在黑客手里”,周鸿祎坦言,“特斯拉每出一款车,我们都能以最快的速度劫持”。至于为什么要模拟劫持汽车,周鸿祎直言不讳地表示,“因为做防守的人,做盾的人,要先研究矛”。

“无论是特斯拉还是其他智能汽车,都可以用手机进行控制,要和车厂的服务器保持连接,能够通过定期更新软件来改变车子的驾驶模式;既然汽车都可以联网,用手机都可以打开车门、打开空调了,那么就一定可以被劫持”,360集团董事长兼CEO周鸿祎在5月16日的第二届世界智能大会上表示。

在周鸿祎看来,虽然很期待无人驾驶时代的到来,但要给无人驾驶泼点冷水,“没有安全就不可能有智能汽车时代的真正的到来”。他还描述一个具体的场景:“你想象有一天,你吃着火锅,唱着歌,坐在一辆车上,过着未来的美好生活,然后这个车就被黑客劫持了,美好生活也就结束了”。

“机器变成自主意识,会对人类产生危害,很多无人值守系统,一旦被黑客劫持,这个扳机就会控制在黑客手里,带来的危害也是比较大的”,周鸿祎坦言,“特斯拉每出一款车,我们都能以最快的速度劫持”。至于为什么要模拟劫持汽车,周鸿祎直言不讳地表示,“因为做防守的人,做盾的人,要先研究矛”。

另外,周鸿祎还提出,人工智能作为智能经济的关键技术支撑力也存在重要的安全问题:

第一,人工智能会用于许多无人值守系统,像无人值守的汽车、高铁、无人机,无人值守的武器等。但是,这些无人值守系统都有安全漏洞的风险,一旦被网络劫持,将带来严重的安全问题。比如未来用人工智能做成智能机枪以后,一旦被黑客攻破,就有可能向无辜的人开火。

第二,人工智能所依赖的传感器、训练数据和使用的开源软件等都可能存在安全隐患,比如传感器可以被干扰,系统自身也可以被欺骗或入侵。

第三,现在的人工智能还只是一种拼命用大量数据训练出来的概率判断系统,远远称不上完善。它也许可以有99.99%的概率保证识别是正确的,但是对于安全来讲,它只要出现一次识别错误,就会造成严重后果。过去一年里,曾发生多起自动驾驶测试车车祸,甚至撞死行人的事件,就是因为这个原因。

第四,现在的人工智能系统大多使用开源软件和架构,这里面的安全漏洞就更多了。

因此,周鸿祎强调,大安全时代,迫切需要一个完整的解决方案。要运用新技术构建一个强健有力的“安全大脑”,建立“上帝视角”,绘制出大安全全景图。

(责任编辑:苏浩)
更多推荐
经济参考报 2016-10-21 00:00

中国网客户端

国家重点新闻网站,9语种权威发布