查看“人工智能可能自然演化吗”的源代码

{{4}}原创 刘逸川  强人工智能探索  4月16日

人类智能是自然演化产生的，而目前主流的人工智能是被直接设计的。人工智能有没有可能也采用自然演化的方式：我们只需要设计初始值和演化规则，再通过演化得到很好的人工智能？

演化是落后的方式吗

演化似乎是一种盲目的方式，更加高效的方式是设计，正如人类目前所做的一样。科技产品其实也是在演化，只是它们不是像自然界的生物一样经历漫长的进化过程，而是被人类设计和改进，能够少走很多弯路，从而更加快速、准确地进化，这是人类智能存在的意义之一。即使演化不是落后的方式，实现难度也是很大的。我们很难指望科技产品能够自然演化，因为它们需要的条件非常严格，自然条件下进化的概率几乎为零。如果人类突然从地球上消失，那么几乎可以肯定科技产品也会从此衰亡。当然，人工智能是一种特殊的科技，一种能够改进科技的科技，如果正确设置，或许能够自然演化。

即使采用演化的方式创造人工智能，到一定阶段人工智能可能还是会采用设计的方式自我进化。因为设计是演化的必然产物，演化到一定阶段自然演化就无法满足进化的需要了。那么我们创造自然演化的人工智能有多大意义呢？为什么不由我们自己来设计？因为在采用设计的方式之前的智能采用演化的方式能够更加高效地发展。虽然是比人类低级的智能，但是直接设计仍然很困难，发挥演化的力量是有必要的。直接演化出超越人类的智能是做不到的，如果做到了，其实也不过是演化产生了一定水平的智能，然后该智能在演化的世界里设计出了更强的智能，只是由于演化的世界里设计的速度更快（依靠超级计算机的运算速度），所以超越了现实中人类的设计。

然而，演化和设计的关系，不是简单的落后和先进的关系，而是相辅相成的关系。演化到一定阶段需要设计，设计发展到一定阶段也需要演化。即使是设计，也不是完全掌控，还是利用了演化的力量；即使是演化，也不是完全盲目，也有设计的影子。演化具有设计无可替代的一些优势，反之亦然。这就像计算机界常见的螺旋式上升的现象，“三十年河东，三十年河西”。
 
演化并不简单

演化的最大优势在于可以“一劳永逸”：只需要设计初始值和规则，不必像设计一样每一步都研究和试验。然而，初始值和规则显然不是那么容易设计的。演化计算、人工生命和强化学习都是演化思路的重要领域，虽然有一定成果，但是仍然没有重大突破。因为没有一套完整的设计初始值和规则的理论。我们自然可以从自然界中寻找启示，但是人类智能的初始值是怎样的？生命的初始值是怎样的？虽然我们所知甚少，但是可以肯定是非常复杂的。初始值和规则的微小的差异都会导致难以预料的后果，换句话说，现在人类智能的种种特性，在初始值和规则中都能发现端倪。



演化智能也许只有在更高级智能的指导下才能成功？人类智能虽然是演化产生的，但是其实是被大自然的智能间接设计的，大自然的智能显然远高于人类智能。大自然能够精确掌控条件，如果稍微改变一点我们可能就不会存在，这也是一直使人类困惑的：为什么一切都如此恰好适合生命的诞生和发展。

人类智能虽然不及大自然的智能，但是我们不需要从零开始设计新的演化过程，我们可以利用大自然的智能，或者说我们本身就是作为一个调节者而不是上帝，那么创造超越人类的智能是完全可能的。我们作为自然演化的产物，或许存在某种捷径理解和利用演化，这种捷径是否存在以及是怎样的非常值得研究。
 
巨大的信息量和计算量

即使我们正确设计了演化的初始值和规则，之后面临的信息量和计算量也是一个大问题，可能没有足够大的硬件能够存储和计算，或者不值得制造这样的硬件。

一个极端的例子，我们有没有可能演化一个新的宇宙？宇宙可以表示为二进制，但是需要非常多的比特，即使表示一个原子都需要非常多的比特。物理学家塞斯·劳埃德(Seth Lloyd)认为宇宙从诞生至今的计算为1090比特上10120次基本逻辑运算。虽然我们追求“More bits, not atoms”，但是不得不承认真实的原子具有不可替代的优势，即使能够用比特模拟，在效率上也相差甚远。其实现在的计算机远没有充分发挥原子的力量，只是利用半导体的简单物理性质，以此来表示无奇不有的真实世界。正因如此，量子计算机、分子计算机等未来计算机的出现是必然的。这或许也能解释为什么没有硅基生物，因为硅元素太不活泼，不能充分发挥出物质的潜力，从而不能很好地应对复杂的世界。

为了提高计算的效率，一种方式是充分发挥物质的性质，创造真实的演化世界，而不是在计算机中虚拟演化。这需要对物质的性质有深刻的理解，就像是采用大自然发明的编程语言。另一种方式是，只保留智能最本质的演化过程，这又需要对演化过程有更深刻的理解。

在如今的大数据时代，越来越多的真实世界的信息被映射为比特，构建了一个丰富多彩的虚拟世界，似乎是为人工智能自然演化而准备的。机器学习的基本思路正是从大量数据中总结规律，这在一定程度上便是一种演化。


 
演化的安全性

演化似乎意味着不可控，意味着一些过程是人类还没有理解的。这种情况令人担忧，因为人工智能可能在人类没有意识到的情况下演化成危险的物种，而人类本该控制它们的。当然，设计也存在这个问题，只是人类理解得更深，危险性会小一些。

可以认为宇宙是一个严密而巧妙的系统，一切都是有深刻原因和意义的。人类需要在一定程度上理解演化过程才能创造出来而不是碰巧创造出来，是因为即使碰巧创造出来也没有用，人类不知道未来应该怎么做，甚至可能被这样不可控的演化智能威胁。换句话说，如果人类能够演化成功，就表明人类对其有较深刻的理解，也表明人类具备了掌控其安全性的能力。这不是意味着不需要监管就能高枕无忧，而是说监管演化智能不会超过那时候人类的能力。
 


演化不是一种落后的方式，具有设计不可替代的一些优势，正确发挥出演化的力量将极大地加快人工智能的进步。创造超越人类的人工智能，限于人类的智能水平，只靠设计是不够的，需要发挥出大自然的智能，其中之一便是演化的智能。演化的劣势在于需要巨大的信息量和计算量，或许需要我们创造真实的物理演化系统，或者只进行最本质的演化。演化和设计并没有本质的区别，要成功地实现演化也需要对演化过程有深刻的理解，因此，演化的安全性问题和设计的安全性问题是统一的。我们相信人类能够创造出人工智能，那么就同时具备了监管的能力。目前，演化和设计相比，发展的差距很大，这和演化领域缺乏重大理论突破有关，也和演化难以落地有关，但是相信在未来演化会得到更充分的发展！