光明网天津5月16日电(记者 李政葳 王春晓)无人值守系统里的“最后控制权”归谁?人工智能时代的“畅销服装”是什么?在大会上周鸿祎为什么要“攻击”刘庆峰?
在第三届世界智能大会期间,360董事长兼CEO周鸿祎用最近发生的三件与人工智能有关的事情,揭示了人工智能的安全隐忧,“并非贬低人工智能,恰恰相反,关注安全有利于人工智能更好地发展。因为只有安全的信息化,才会给人民带来安心和幸福的信息化”。
无人值守系统里的“最后控制权”归谁?周鸿祎说,在将来无人车、无人工厂、无人码头等众多无人值守系统里,在还没有很大把握下,在传感器误报、数据被污染的情况下,最后的控制权和决定权应该留给机器,还是人?
周鸿祎讲的第二件事,是从“歌手张学友的演唱会”说起。曾经有报道称,因张学友演唱会“人脸识别”技术,警察抓获多名逃犯。
不过,周鸿祎提醒大家,网络黑客通过研究发现只要给他一个从来没有看见过的图案,把一种奇怪条文打印在纸上,就能“屏蔽”掉人脸识别系统。
“可能这种衣服就会很‘畅销’。”周鸿祎还提到,有安全团队也发现,对特斯拉人工驾驶的汽车贴些奇怪的交通符号,就可能会让汽车的电脑“很迷惑”,然后停下来,并引发追尾事件。
对此,周鸿祎建议,企业在上线系统前,应做好安全检测,做好“实网攻防”,“要用实际的攻击发现问题,而非靠静态的研究证明系统的安全”。
第三件事是围绕假新闻、假名人视频制造工具。“新加坡正在制定相应的法律”,周鸿祎呼吁,我国也应加强对该类问题的重视,防止这样的“工具”流传,引发一系列道德伦理问题。
“人工智能的发展一定要注重安全,一定要注重伦理道德和法律的配合,因为只有安全性的信息化,才会给人们带来幸福的信息化。”周鸿祎说。