AI换脸背后的技术攻防战

微软在Twitter上线的聊天机器人Tay在与网民互动过程中，曾成为过一个集性别歧视、种族歧视等于一身的“不良少女”，这揭示了更深层的问题：因为错误的输入，形成了错误的输出，错误的输出作为反馈，又进一步加深错误。

过去的歧视可能会在算法中得到巩固并在未来得到加强，简而言之：恶性循环。

二是隐私忧虑。很多人工智能系统都需要大量的数据来训练学习算法，数据因此成为AI时代的“新石油”，这带来了新的隐私忧虑。

一方面，如果在深度学习过程中使用大量的敏感数据，这些数据存在后续被披露出去的风险；另一方面，考虑到各种服务之间会大量交易数据，数据成为新的流通物，个人对其个人数据的控制和管理也会被削弱。

三是如何界定AI的人道主义待遇。当自主智能机器人越来越强大，它们在人类社会到底应该扮演什么样的角色，目前还无法确定。

此外，越来越多的教育类、护理类、服务类的机器人在辅助人类看护孩子、老人和病人，这些交互会对人的行为产生什么样的影响，也需要得到进一步研究。

四是责任与安全的保障。埃隆·马斯克、史蒂芬·霍金之前都提醒人们要警惕强人工智能或者超人工智能可能会威胁人类生存，但科学界和社会大众对这个问题的讨论和认识还停留在表层。

马斯克屡次提出警告：人工智能技术未来或将导致人类走向毁灭。他曾表示，“人工智能的关键在于，它们并不是机器人，而是一种计算机算法。机器人只是一堆传感器元件，而人工智能则构成了强大的网络。如果只是算法失控，人类和人工智能便可以携手加以控制。但一旦集中化的大型人工智能系统决意攻占世界，我们就无力阻止了。”

为此，马斯克号召人们做好准备，应对人工智能带来的“世界末日”。他提出，人类和机器可以融合为一种“人工智能-人类”的共生生物，这样便能有效杜绝“人工智能独裁”局面的出现。

无独有偶，英国理论物理学家史蒂芬·霍金生前也曾警告说，人工智能的发展可能意味着人类的灭亡。

2014年，霍金在接受英国广播公司的采访时说，“我们已经拥有原始形式的人工智能，而且已经证明非常有用。但我认为人工智能的完全发展会导致人类的终结。一旦经过人类的开发，人工智能将会自行发展，以加速度重新设计自己。由于受到缓慢的生物演化的限制，人类不能与之竞争，最终将会被代替。”

在最近召开的世界人工智能大会上，马云和马斯克进行了一场“双马”对话。相比之下，马云对当下人类社会发生的改变更感兴趣，马斯克则为人类未来的命运充满担忧。

马斯克说自己并不是一个天然乐观或悲观的人，但他依然对人与人工智能的未来持有悲观的态度：“人工智能可能比最聪明的人还要聪明。计算机可以用超过人类几十万倍数字通量的方式进行对话，计算机看人一定会觉得特别无聊。”他建议，如果人类打不过人工智能的话，可以和他们组成团队。

而马云的态度就很乐观，他不觉得人工智能是一种威胁，“我不认为人工智能是很恐怖的东西，因为人类很聪明。人工智能很好、很有意思，我们会拥抱它。今天很多问题没有解决方案，但是未来会有，青年人会有解决方案。”

人工智能与人类未来究竟会如何相处——是马斯克预言的悲观结局，还是马云预言的乐观结局，在肉眼可见的时间里，我们暂时还看不到答案。

如果将世界看做一个程序，那么我们每一个人的选择就是世界运行的算法，它决定了程序的未来走向。而刷屏的ZAO，也许就是那只正在振动翅膀的蝴蝶。

（编辑：甘孜站长网）

【声明】本站内容均来自网络，其相关言论仅代表作者个人观点，不代表本站立场。若无意侵犯到您的权利，请及时与联系站长删除相关内容!