当机器需要像选择答案一样选择问题时,它们会关注什么

时间:2024-06-27 08:53:06

劳伦斯·克劳斯(Lawrence M.Krauss):物理学家、宇宙学家,亚利桑那州立大学“起源项目”(Origins Project)主任;著有《无中生有的宇宙》(A Universe From Nothing)

当机器需要像选择答案一样选择问题时,它们会关注什么

近来,大量文章开始致力于关注人工智能以及未来世界。在未来世界里,机器能“思考”,在后期,还能从简单地进行自主决策发展到拥有成熟的自我意识。我不同意这些担忧中的绝大多数,反而对有机会体验思维机器感到很激动,既是因为它们会提供改善人类条件的潜在机会,也是因为它们毋庸置疑地会提出关于意识本质的洞见。

首先,让我们澄清一件事情。尽管计算机的存储和运算能力在过去的40年时间里有了指数级的增长,但是能思考的计算机需要一个与现在的计算机几乎毫无相似之处的数字架构。它们也不可能在短期内变得有竞争意识。一个简单的物理思想实验可以支持这一论断。

鉴于电子计算机目前的功耗,一台拥有人类大脑存储和运算能力的计算机将会需要超过10太瓦(terawatts)的能量,占到了全人类电能消耗总量的两成。人脑只消耗10瓦能量。这意味着二者相差10(1万亿)倍。在过去的10年中,计算机性能功耗比(百万次浮点运算/秒·瓦)提升1倍的时间大约是3年。即使假设摩尔定律持续不减弱,这意味着它也需要经历40次的倍增,或者说需要120年,才能达到相同级别的功耗水平。此外,每一次效率的倍增都需要在科技上有较为彻底的变革。因此,不从本质上改变计算机的计算方式,仅仅是40次的倍增,是几乎不可能达到目标的。

请暂时忽略这些逻辑上的问题,我猜想开发出一个真正具有自我意识的机器在原理上并没有其他问题。在此之前,机器决策将会在我们的生活中扮演比以往更重要的角色。有些人认为,这是一个值得关注的问题,但这样的事情近几十年来一直都在发生。让我们从电梯这个初级的计算机开始设想,它决定了我们回到自己房间的方式和时间。我们让机器自动引导我们。我们用自动驾驶仪引导飞机飞行,我们的汽车自主决定在何时它们该去做维护、何时该去给轮胎充气,全自动驾驶汽车或许指日可待。

对于许多人而言,即使不是大多数人,完成相对自动化的任务,机器显然比人类更优秀。我们应该庆幸的是,机器有潜力让日常活动变得更安全、更高效。我们没有对它们失去控制,因为我们创造了决策条件和初始算法。我把人机交互想象成人类拥有一个得力伙伴:机器越智能,作为人类的伙伴的它们对我们的帮助就越大。任何伙伴关系都需要一定程度的信任和自由,但如果所得经常大于所失,我们将继续保持合作关系。如果它们不这样做,我们就与它断绝关系。无论伙伴是人类或是机器,我认为区别不大。

我们必须谨慎地对待合作关系,例如现代战争中对于基础设施的指挥和控制。因为我们有能力杀死这个星球上的大多数人,或许有一天,智能机器会控制决策装置,导致它们按下发射按钮,甚至发动一次灾难性的攻击,这太令人担忧了。因为当我们遇到决策时,我们经常依赖直觉和人际沟通,它们与理性分析同等重要,古巴导弹危机是一个很好的例子,我们猜想智能机器不会拥有这些能力。

然而,直觉是经验的产物,而且在现代世界中,沟通不仅限于电话或面对面的交谈。系统的智能设计,内置了大量的信息冗余和安全防护。这些都告诉我,即使在暴力敌对的情况下,机器的决策也未必就比人类的决策差。

我们已经探讨了如此多可能产生的担忧。那么现在,让我用个人认为最激动人心的科学——机器智能作为全篇的结束。目前,机器在计算方面帮助我们完成了大多数科学工作。与简单的数字编程不同,如今大多数物理学专业的毕业生更依赖Mathematica软件,它可以帮助他们完成我们在学生时代不得不独自完成的大多数数学运算。但是,这也只是揭开了表象。

我很好奇,当机器需要像选择答案一样选择问题时,它们会关注什么。它们会选择什么问题?它们会觉得什么东西有趣?它们会用与我们相同的方法去研究物理吗?毫无疑问,如果量子计算机变得实用,相对于我们而言,它将会对量子现象有更“直观”的理解。那么,在揭开大自然的基本规律上,机器会取得更快的进展吗?获得诺贝尔奖的第一台机器什么时候诞生?我一如既往地怀疑,怀疑那些最有趣的问题正是我们还未曾想到的问题。