人工智能的如今仍然是初期

时间:2023-11-21 06:29:01

尼克·波斯特洛姆(Nick Bostrom):牛津大学教授;人类未来研究所主任;哲学家和超人类主义学家;著有《超级智能》(Superintelligence)

人工智能的如今仍然是初期

首先,对于那些思考会思考的机器的人们,我认为,在很大程度上,我们过早地在这个难解的话题上形成了观点。许多高级知识分子仍然没有意识到,最近的主流思潮已经出现在超级智能的含义中。现在有一种趋势,倾向于将复杂的新思想理解为陈词滥调。出于一些奇怪的原因,许多人甚至认为当话题转向机器智能的未来时,谈论各种科幻小说和科幻电影中出现的情节是很重要(约翰·布罗克曼告诫Edge评论员要避免这样做,尽管有人希望他的告诫会对减少这种现象。)

发泄完这些不快之后,我现在要说自己会如何看待会思考的机器:机器目前非常不擅于思考,除了在某些狭窄的领域以外。它们可能会在某天比我们更擅于思考,正如机器已经比任何生物都更快、更强了。

那一天距离我们有多远,我们还知之甚少,所以我们使用宽泛的概率分布来预测超级智能可能实现的日期。人工智能从人类水平到超级智能的脚步似乎比从当前水平到人类水平更快(尽管,依赖于架构,“人类水平”的概念在文章中可能不会有太大意义)。超级智能很可能是人类历史上出现的最好或最坏的东西,其原因我在其他地方描述过。

取得好结果的可能性主要由问题固有的困难程度所决定:默认的驱动力是什么,以及试图控制它们有多么困难。最近的工作表明,问题比先前预想的要困难很多。然而,现在仍然是初期,或许在我们的领域内不需要作出特别的努力,一些简单的解决方案就会出现。

然而,我们大家的努力程度会对概率产生一些影响。现阶段,我们能做的最有益的事情就是,促进这个微小但在迅速发展的领域的研究,聚焦于超级智能的控制问题,以及研究类似如何将人类的价值观移植到软件中这样的课题。如今推动这些研究的原因,一部分是我们在控制问题上已经开始取得进展,另一部分是我们招募了顶尖人才,当挑战的本质变得清晰时,他们已经准备就绪了。这个阶段最需要的学科似乎是数学、理论计算机科学,或许哲学也很重要。这就是我们在这一领域努力投入人才和资金,并开始制订行动计划的原因。