Facebook上个月引起广泛争议的“开发出人类无法理解”的沟通的智能对话机器人项目已经被关闭，因为研究者担心会“失控”。
Facebook创始人扎克伯格与特斯拉创始人马斯克近日展开的人工智能（AI）的辩论。扎克伯格认为马斯克对人工智能威胁论言过其实，然而自家开发出的AI系统却打了他的脸。 据说是其中一套AI系统认为它们之间的沟通方式效率低下、不合逻辑。因而，自己创建了一个新的代码短语系统，使机器人之间更方便的交流。
这个事件发生在两个名为鲍勃和爱丽丝的AI之间的谈话，鲍勃说：“我可以可以可以做到其他一切。”爱丽丝回答同样奇怪：“球对我我我来说说零...”。这些语句听起来奇怪，但符合它们的交流方式，并且重复运用“i”和“me”这样的人称代词。 这不是第一次发现 AI 偏离训练所用的英文了，转向发展出新的更加有效的语言。虽然在人类看来，这些沟通更像是胡言乱语。但是，从AI 智能体的角度上看，他们实际上是有词义意义的。
现在，这一系统已经被关进了“小黑屋”。根据国外媒体的报道，现在Facebook 的研究院已经停止了这一项目的研究，原因是“担心可能会对这些AI失去控制”。 假如有一天AI发展到衍生出了自己的思维，那么对人类来说必然是悲剧。
|
