人工智能有机会统治人类吗？

最近关于人工智能的文章和报道越来越多。甚至有人声称“随着计算机计算能力的增强，强人工智能将在我们有生之年出现，给人类文明带来前所未有的冲击”。这些看似有理有据的观点深入人心，很多人甚至对自己的未来产生恐惧和担忧。

人工智能真的会对人类造成这么大的威胁吗？

困难重重

对于人工智能这个过于庞大的概念，我们分为弱人工智能(弱AI，或狭义AI)和强人工智能(强AI或广义AI)。

弱人工智能是处理特定问题的人工智能，AlphaGo是专门下围棋的弱人工智能，iPhone中的Siri是专门进行语音识别的人工智能，还有一种专门在谷歌的搜索框中提供搜索建议的人工智能——得益于现在如火如荼的“人工神经网络”，我们高兴地发现，弱人工智能表现得非常好，在某些情况下，它真的比人类更高效。

相应的，强人工智能模拟的是一个完整的人类心智，我们通常把能否通过图灵测试作为强人工智能的评判标准，但这样的人工智能直到今天也没有实现。此外，我们还对“超级人工智能”的概念做了进一步的白日梦，超级人工智能顾名思义就是比人更有智慧的人工智能，也就是科幻艺术和大众媒体最担心的情况——但在人工智能的实践中，我们恐怕要说这更接近于盲目乐观，追求强人工智能的征途并不像某些未来的空想家那样近在咫尺，还有无数的难题等着我们去攻克。

我们遇到的第一个问题是计算机的计算能力。

细胞虽小，却极其复杂，尤其是神经元。在最小的尺度上，一个神经元有成千上万个突触与其他细胞相连，释放或接受神经递质，识别数百种独立活动，然后发出高速传导的神经兴奋，在整个大脑中激起复杂而不确定的反馈。有些突触还可以直接向脑脊液中释放神经递质和激素，引发全身更大规模的反应。时至今日，人类发现细胞已近400年。即使是最强大的超级计算机，突触的微观结构也只是静态构建的，你无法模拟它的完整活动——人脑中大约有860亿个神经元。

当然，神经科学和计算机科学的交叉确实取得了一些令人瞩目的成就。例如，我们标记了秀丽隐杆线虫302个神经元的连接方式，并在大约2014构建了一个“开放蠕虫”项目，试图用计算机模拟一个相当于实体的虚拟线虫——但这个项目才刚刚开始。目前还没有得到任何结果，而这个研究对象却出奇的简单:它是雌雄同体的，全身固定着959个细胞，每个细胞的行为都是特定的、固定的，神经活动非常单调，所以我们可以详细观察，用现在的手段模拟。

但是，如果因为这一点星光就认为黎明即将到来，认为秀丽隐杆线虫的神经节只是与人脑神经元数量不同，只要计算速度足够快，就能实现质的飞跃，那就太天真了。

我们还会遇到动态参数的障碍。

正如我们所警告的，以目前的技术，我们无法模拟神经元的完整活动，并让它们在虚拟世界中自主移动。只有在这个项目中，由于我们已经知道了线虫神经的连接方式，所以我们可以人为地给这些连接动态参数，使这些虚拟神经元移动，逼真地模拟一种线虫。就像做一道题，虽然你不会做，但是你可以用倒着的答案从下往上猜——所以我们把这种做法叫做自下而上。

但是，在现阶段，我们不仅是差生，没有答案我们也动不了。而且我们遇到的问题都是前所未有的问题，根本没有现成的答案。

线虫神经和人类大脑，就像嘴里的气息和超级台风，不仅仅是数量上的差异。当基本单元通过各种联系形成复杂系统时，就会在更大的尺度上呈现出新的结构。长期以来我们对小尺度上的流体运动有了清晰的认识，但这并不意味着我们可以从中推导出风的运动规律。

首先，线虫的个体差异很小，不同个体的细胞排列方式完全一样，所以作为一个透明的实验动物，我们很早就搞清楚了它们神经连接的方式。但是人脑根本不是这样。我们有数量巨大的神经元，这些神经元在个体之间差异很大，可塑性很强，这使得每个人大脑中的神经元以不同的方式连接——换句话说，具体的神经元如何连接并不重要，重要的是大量的神经元如何组织成一个复杂的体。

然而，对于65，438+0个神经元、65，438+00个神经元、65，438+000个神经元和65，438+0000个神经元...每增加一个数量级，神经元的活动中就会出现新的运动规律，从神经元在最小水平上处理兴奋的方式，到不同递质通路的组合，到处理不同信息的细胞形成的功能模块，再到大脑。这些都是我们必须面对的难题。虽然这些动力学研究也在如火如荼的进行着，但是这样的研究是不可能达到“指数上升”的速度的，重建我们人类大脑的过程也不可能达到指数上升的速度。

所以，不管计算机科学能否顺利进步，即使计算机的运算速度真的能成倍增长，在可预见的未来也不可能快速模拟出一个人类的大脑:在神经科学和脑科学达到高度成熟之前，大脑永远是一个黑匣子，我们仍然很难知道大脑在具体的智力活动中不同层面发生了什么。而且更现实的是，随着我们对人脑知识的逐渐扩展，我们会发现越来越多的新问题。

我们知道的越多，就越发现自己无知。不幸的是，真正的问题还在前面——我们需要新的计算机原理。

必须认识到，在“智能”能否实现这个巨大的问题上，计算机运算的速度并不是决定性的。在今天的动物王国里，非洲象和长腿巨头鲸的大脑比人类更重，神经元也更多。为什么他们缺乏智力？同样的解剖学基础上，原理完全不同的电路元件呢？

电路元件由金属和半导体制成，信号传输速度接近光速，确实比神经元的冲动快很多，但也单调很多。电路元件的任何反应都只能得到固定的结果，在and、or、and的基础上只能发展一阶逻辑演算。今天和未来所有可以预见的计算机程序都是一阶逻辑演算，复杂度不同。

“一阶逻辑”已经很强大了，给今天的人类带来了21世纪的整个信息时代，但它只能从几个初始数据出发，根据预存的指令一步步推导出来，永远不会越界。这给计算机带来了那种有价值的可靠性，但也失去了它更有价值的抽象、推理和创造——我们必须能够定义谓词的二阶和高阶逻辑。

比如面对“a+b”这个命令，计算机只会按照加法的规则把A和B相加，但是对于有二阶逻辑的人，我们也会思考加法的意义，会问“加法是一种什么运算？”然后，我们将能够思考三阶逻辑中“运算”的含义，并提出“如何指定一种运算？”更进一步，我们会思考四阶逻辑中“调控”的含义，会问“数学中什么样的行为可以称之为调控？”。

这种质疑可以无限回溯。从理论上讲，人类的思维可以实现“无限高阶逻辑”，我们在整个哲学史上不断展示这种能力。对于普通人来说，我们也可以尝试一个思维游戏，反正计算机是做不到的:随便想一件事，然后想“我在想”，再想“我在想”，再想“我在想”……虽然很耗脑子，但理论上我们可以递归下去。

是的，今天所有的计算机都是一阶逻辑，在一些实验室里可能会有二阶逻辑的尝试，但无论如何，高阶逻辑问题都不能归结为低阶逻辑——我们永远无法通过加法本身来解释什么是加法，这就像电视上的广告。

也就是说，即使我们用前所未有的计算能力，用不可思议的工作量找到大脑中的每一个参数，只要计算机原理不变，我们就是在用低阶逻辑模拟高阶逻辑——这在数学上是不可能的，程序员会发现一些关键参数无法定义，硬模拟的大脑仍然是一个弱人工智能。

这是一个尖锐的问题。即使在其他规划好的道路上，我们未来是否用进化算法或者其他方式的模型，都是站在我们这边的。我们需要一台革命性的计算机，它可以实现高阶逻辑的计算，但在所有已知的事物中，只有大脑可以做到这一点，这就带来了一个新的困境:模拟大脑需要新的计算机，研究新的计算机需要对大脑有深入的了解。当然，这并不是一个无法解决的问题，就像制造新机器需要新材料，合成新材料需要新机器一样。在科技进步的历史上，我们见过无数次。没有理由认为我们这次会被打败，但我们必须做好心理准备，因为这将是一条漫长的道路。

这样那样的问题会接踵而至。人工智能作为这个时代最复杂的应用科学，没有理由认为我们可以凭借计算机科学的进步轻松解决所有问题，更不用说退一万步讲。我们还有一个更现实的问题要面对。

伦理障碍

伦理是任何革命性新技术最现实的问题。我们之前见证过避孕措施对伦理的影响，认为伦理在技术面前不堪一击，这也太低估伦理的力量了。“知情权”等毫无意义的概念，可以被蛊惑人心者用来混淆视听，可以在食品安全领域掀起滔天巨浪。那么从今天开始，对人工智能的担忧会积累几十年甚至上百年，不管合理不合理，都会形成一种强大的伦理。

先不说“人工智能灭绝人类”的恐怖，就最现实的问题而言，大众肯定会关心强人工智能有没有情感，是不是一个有心的铁皮人。但是，这是强人工智能定义中没有提到的问题。

与其他意识活动不同，人类丰富细腻的感情是人类作为社会动物协调群体关系时进化的产物，并不是智力的必需品。一个强人工智能不一定真的具备这些特征，但他肯定能理解这种行为:想象一个人，生来没有任何感情，却通过细致的观察和精湛的模仿，成为了一个无可挑剔的表演者。他在台上无论哭还是笑，心里都没有一丝涟漪，就像用四肢和面部肌肉完成了最复杂的体操——这大概就是电影《机械姬》里的情况。

长期以来，情感一直被认为是自由意志最关键的特征，所以我们不得不设想，在这样的未来，区分强人工智能是真的有感情还是在逢场作戏，将是人工智能领域最重要的课题，也是人类面对自己时最深刻的拷问。无论哪种结局成真，都意味着旧的伦理世界不复存在:我们是否应该承认它是一个人？进一步说，“他”是否适用实体法，可以拥有最基本的人权？我们还能把他留在实验室吗？

我们接下来会想象人工智能可以用自己的感觉获得人类的信任，争取平等待遇，争取公民权利有多强。人工智能强的感觉可能只是伪装，但人类内心与生俱来的同情和善良却是不争的事实。在这样的未来前景下，强人工智能的研究几乎必然会受到严格的限制，就像我们现在对待克隆技术一样:上个世纪我们掌握了克隆哺乳动物的技能，但在可预见的未来，这个世界将不会有克隆人。

或者更武断地说，无论技术成熟与否，我们都不会允许一个心智完整的强人工智能轻易问世。我们可能在世界上最重要的实验室里开发出几个严重弱化的强人工智能，成为认知科学和计算机科学的珍贵样本。想象强人工智能诞生在民用领域，就像《机械公敌》或者《西部世界》一样，是不现实的。

最后，我们要再次反思预测未来这件事:一个和平的社会未必能引起人们的兴趣，所以我们总是在变革的浪潮中“高瞻远瞩”，却忘了科学革命或许加快了人类探索和改变世界的步伐，但人类的认知过程从来都不是一帆风顺的。旁观者称赞收获时的成就，却很少关注耕耘时的艰辛。盲目乐观是他们永远无法摆脱的缺陷。