机器人终将接管人类？我们对人工智能的十大误解(5)

误解五：“一个简单的修补程序将解决人工智能的控制问题。”

　　正如电影《机械姬》所描述，比我们聪明的机器人并不是那么简单就能控制的

　　现实：假设我们创造出强于人类的人工智能，我们将要面对一个严重的“控制问题”。未来主义者和人工智能理论家完全不知如何限制和制约一个ASI（超强人工智能），一旦它被创造出来，也不知道如何保证它将对人类友好。最近，佐治亚理工的研究人员天真地认为人工智能可以通过阅读简单的故事和社会习俗来学习人类价值观。而问题很可能会远远比这复杂。

　　“人们已经提出很多简单的技巧来解决整个人工智能的控制问题，”阿姆斯特朗说。具体例子包括将ASI程序编辑成让它希望取悦人类，或者仅仅作为人类的工具。换个角度说，我们可以集成一个概念，比如爱和尊重，把这些写入它的源代码。并且为了防止它采用超简单的、单色的观点来认识世界，它可以被编程来欣赏知识、文化和社会多样性。

原文地址：机器人终将接管人类？我们对人工智能的十大误解(5)(http://www.99yangshengtang.com/tushuoyangsheng/shehuiwanxiang/1459072899124219.shtml)