误解七:“超人工智能会很友好。”
现实:哲学家Immanuel Kant相信智能与道德密切相关。神经学家David Chalmers也在他自己的论文“The Singularity: A Philosophical Analysis(奇点:从哲学角度分析)”中采用了Kant这一著名的观点,并将其用在了解释超人工智能的崛起之中。
如果这是正确的,那我们可以预测“智能爆炸”将会同时引发一场“道德爆炸”。我们还可以预测由此产生的超人工智能系统将会在超智能的同时也是超道德的,因此我们大概可以推测这是良性的。
但是认为先进的人工智能会是开明并且天生就好的观点是站不住脚的。正如Armstrong所指出的,有许多战犯都是很聪明的。智力与道德之间的联系好像并不存在于人类身上,因此他对这一联系存在于其他智能形式的假设提出了质疑。
原文地址:机器人终将接管人类?我们对人工智能的十大误解(7)(http://www.99yangshengtang.com/tushuoyangsheng/shehuiwanxiang/1459072899124219.shtml)