1．人工智能开始学习辨别是非
为了防止人工智能接管世界，科学家研发了一种新方法，它可以使机器辨别是非。通过这种方法，人工智能会变得更善解人意，也更有人性。伦敦帝国学院（Imperial College London）的认知机器人教授穆雷•沙纳罕（Murray Shanahan）认为这是防止机器消灭人类的关键。
在乔治亚理工学院（Georgia Institute of Technology）交互计算学院马克•里德尔（Mark Ried）和布伦特•哈里森（Brent Harrison）的带领下，研究人员通过讲故事的方式逐步向人工智能灌输人类的道德观念。这可能听起来很简单，但却很管用。现实生活中，我们也会通过讲故事教给孩子们道理。人工智能就像孩子一样，如果没有人教，他们真地不知道什么是对什么是错。
然而，给机器人灌输道德观念之后还是会有风险。如果你回顾一下人类历史就会发现，即使知道是非对错，人们仍然会犯下难以想象的罪恶。看看希特勒（Hitler），斯大林（Stalin）和波尔布特（Pol Pot）吧！如果人类都可以变得如此邪恶，那又怎么能阻止强大的人工智能变得同样邪恶呢？超级人工智能可能会觉得人类对环境不利，不该存在在这个世界上。
