GeekPwn大赛的创办人王琦，在大会上提出了这么一个想法：黑客对决AI。并宣布：将以500万的奖金池，启动10月24日在上海和硅谷的人工智能安全挑战赛的招募，接受全球顶尖AI安全极客的报名。

人工智能在我们日常生活中的应用，正在一点一点加深它角色的比重，尤其是现在已经比较成熟的语音识别，图像识别等技术，但是硬币的另一面，也就是它存在了很多的安全隐患。

王琦讲到人工智能领域的一个概念——深度学习，他认为人工智能的判断，无非就是通过大量样本通过深度学习来得出结论。

那么，人工智能通过“脏(攻击)样本”，经过深度学习得出的，那就是“错误的行为”。这与黑客挖漏洞的过程又是及其的相似——生成大量的样本，交给软件，改变数据流程，最后导致一个错误的决策。那么黑客通过离线模拟产生的AI攻击样本，则可能给人工智能带来错误的决策和行为。

就像是微软的聊天机器人——Tay上线不到一天的时间内，其语言中就脏话不断、并充满了种族主义。因为它通过网络的学习，认为这是一种正常的人跟人之间交流沟通的方式。

王琦讲，“到了人工智能时代，AI时代，人人都可能成为黑客”。正如Tay被污染的过程中，扮演污染源的人类不需要会写代码。

还有像波士顿动力在训练机器狗时，用脚踹的方式，让它学习维持平衡的能力，但如果这个机器人觉得踹一脚或是给别人一拳是正常的呢?

所以王琦认为，“如果时代的发展，从伪智能到弱智能到强智能。真的走到那一天，我们有义务让AI为我们安全的服务”。