近日，Science发布了一个AI疯癫发作的视频，AI守门员以*搞笑的方式让对手抓狂，AI相扑变成大型碰瓷现场。这项研究表明，AI太好骗，不仅会被“骗”去看一些不该看的东西，还会被“骗”去做一些不该做的事情！

人工智能一直被视为学习能力极强、学习速度极快的“超级物种”，秒杀人类不解释、无商量；无论是在国际围棋比赛，还是在星际争霸游戏对决，均多次战胜人类**选手，所向披靡，不可一世。

但*近，Science发布了一个AI视频颠覆了大家对AI的认知，纵然是“聪明绝顶”的AI，也很容易被“坏朋友”带歪，变得让人啼笑皆非。

这是发表在NeurIPS（Neural Information Processing Systems）2019 上的一项研究。这项研究是在模拟运动中进行的：足球、相扑及某人阻止跑步者越线的游戏。通常这2个竞争对手都是通过互相比赛来训练的。

这项新研究表明，AI很容易被骗，不仅会被“骗”去看一些不该看的东西，还会被“骗”去做一些不该做的事情。想象一下假如用到自动驾驶，会有多么危险？

微小改变就能愚弄AI，AI距离真正的“聪明”还有点远

让人工智能变得“更聪明”的一个方法是让其从环境中学习。例如，未来的汽车可以获得更多的“经验”，进而更好地“阅读”路牌并避开行人。但这正好也是黑客用来“愚弄”人工智能的“惯用伎俩”，他们可以利用这些系统进行“对抗性攻击”，比如通过精巧地修改图像就可以“愚弄”人工智能，一个带有几张贴纸的停车标志可能会被人工智能系统视为限速标志（这肯定会让自动驾驶汽车公司在微风中瑟瑟发抖！）。

利用贴纸，图像识别算法将停车标志认作限速标志

在一次国际机器学习会议（International Conference on Machine Learning ，ICML）上，一个研究团队报道了他们的3D打印乌龟。对于人类来说，它看上去就像一只乌龟；但对于人工智能，它们却有着不同的看法——在大多数时候，人工智能会认为这像是一支步枪！

本文摘自：网络  日期：2019-12-30
详情点击：ABB机器人代理商