人工智能能让人永生 未来人类可拥有上千年生命?

　　澎湃新闻：如果人类制造的机器具有威胁性，我们能直接拔掉机器的电源开关，来避免这种威胁吗？

　　尼克?波斯特洛姆：值得注意的是，我们没有独立的意愿，也没有能力整体规划允许我们关掉电源。到时候我们要关掉哪些开关，或是需要关闭整个互联网？

　　一个自由联网的超级智能可能预测到人类将关闭它们。如果他们不希望被关闭，最终就有可能会采取过激的行为来反抗人类。好莱坞有关人工智能的电影，描述的场景都是人类自己设计的，描述的情节都最符合人类利益。相反，真正的超级智能设计的情节可能与人类相反。例如，如果其他类人猿开始察觉人类正在侵蚀它们的领地，它们会不会拿起石头砸向人类，到时候人类真的能关掉设置在他们身上的开关吗？

　　澎湃新闻：现在很多人都在讨论，人工智能会让人类未来的生活变得更加便利，但也会让部分人失业，未来我们应该要如何解决这样的问题？

　　尼克?波斯特洛姆：我认为，从短期来看，人工智能代替人工不是问题。因为人工智能一方面让人类生活变得很好，创造出更多有用的东西，同时也更经济，能为很多公司创造出更多的利润。长期来看，这是一个很有挑战性的问题，未来，机器代替人类的情况不会只发生在固定的几个领域里，而是跨领域的。

　　澎湃新闻：在中国，很多公司都在关注人工智能的发展，他们希望能提前布局，并希望政府部门能加入到这一领域中。在你看来，政府加入到人工智能发展中，会产生什么样的影响？

　　尼克?波斯特洛姆：我不太确定。因为目前来看，如果想要发展人工智能，我们必须也要在人工智能控制和安全上投入必要的精力。尽管有些问题的解决方法是长期发展过程中才需要的，但我们应该重视。目前很多人工智能设备还只有部分人能使用，但我认为，人工智能应该让全人类都受益。人工智能不能仅仅是为特定人设计的很酷的东西，也不能是一家公司获利的方式，而应该对人类历史有推进作用。所以，这就需要政府来维持。

　　澎湃新闻：另外有部分人认为，人工智能能让人类永生，谷歌也在这方面投入了很多精力。根据你的研究，人类能利用人工智能获得永生吗？

　　尼克?波斯特洛姆：在超级智能的构想下，你需要对未来有一个大致的了解。在科技的帮助下，我们可以设想，未来的某一天，人类可以拥有上千年的生命，而且现在也有很多人在做这方面的研究。这一点是在到达超级智能后是可以做到的。

　　而永生首先意味着是很长的生命跨度。在计算机的帮助下，我们能做到的是突破生物限制。换一个角度讲，超级智能的永生，并不是物理的永生，而是通过计算机的帮助，帮助我们备份，留存记忆。这样即使到时候地球毁灭了，我们的资料还是能留存下来。

　　澎湃新闻：最后能和我们具体解释下如何才能做到人工智能的控制和安全问题？

　　尼克?波斯特洛姆：我们现在有一些措施，例如给人工智能设置安全范围，以及一些激励措施。但还有很多事需要我们提出来并将其解决。你之前提到的特斯拉 CEO马斯克也在做这些事情，他曾拿出1000万美元，投资在人工智能控制和安全上，这对于计算机科学之间的沟通很重要，因为目前还有很多问题需要各方一起解决。

　　我可以举个例子，如何设定人工智能的目标，如何才能实现人类价值和人类设定的目标。这需要人们建立一个目标系统，动机驱动系统。现阶段，我们只给出了人工智能一些简单的目标，但是我们还不能给人工智能输入一些关于情感的目标，例如什么是爱、美以及和谐。我们还不能对这些目标用计算机语言来描述。这些描述不是那么容易，不是简单的指令能做到，而是需要人工智能让机器学会学习人类的价值观，理解人类的意图。但最终怎么做，这其实还是个开发式的回答。

　　另一个问题是，即使你让人工智能学会了学习，你还得建立一个动机系统，让他们有动力去做对人类有益的问题。