昨夜雨：人机对弈说前程（四）

想写这一组文字的初衷，其实就是源起于在微博上和网友尤其是和八月的对话，就是说想把我自己对人机关系的思路梳理一下。

首先要说的是，当AlphaGo战胜了李世石的时候，我们所面对的，不是是人类的胜利还是电脑的胜利的问题，而是众人的头脑通过协作，并且应用电脑作为协作的工具，超越了个人头脑的局限。同样，当AlaphGo在全球棋手榜上被排名第二的时候，登上这个名次的，是作为一个集合体的头脑，而不是一台电脑。其实，一台电脑的作用是很有限的。在AlphaGo取得前三场的胜利之后就有人用玩笑的口吻说，只有中国棋手可以打败AlphaGo，因为我们有举世无双的功夫网。只要切断AlphaGo和谷歌网络的连接，它就是成为了一条"丧家之狗"。

(李世石对AlphaGo的第四盘，2016年3月13日)

其次，人类在人工智能方面的研究开发才刚刚开始，未来还有很漫长的道路要走。目前的人工智能应用，要么就是思维能力特别强，比如下棋的机器人，要么就是行动能力特别强，比如装配线上的货库里的机器人。把两者结合起来的例子，在公路上自动驾车的机器人可以算一个。驾驭一台机器本身并不复杂，据我的一位老师说过，阿波罗登月火箭的往返程序，全部加起来还不过是64K。但是在开放的公路上开车，所要应对的情况要复杂得多。自动驾车不仅仅是控制一台机器，而且要应对马路上的各种状态。既要完成从A点到B点的运行，还要保证乘客与路人的安全。当危险状态出现的时候，要决定如何造成最小的伤害等等。

英国学者Richard Dawkins在1976年出版的The Selfish Gene（《自私的基因》）一书中就指出， “我们以及其他一切动物都是我们自己基因所创造的机器。”从这个观点出发，我们也不妨把人类所创造出的机器人以及其他工具，看成是人类自身能力的一种延伸。当同时具有思维能力和行动能力的机器人进入我们的日常生活之后，人类就和机器人进入了一种“互驯”关系。所谓“互驯”，就是相互为对方提供生存的条件及其他福祉。机器人为人类的各种目的服务，这一点我们比较好理解。但实际上，人类为了达到利用机器人，也必须为其提供高速的处理器，提供大容量的内存与外存，提供连接不同部件的导体，提供保护这些部件的外壳，更重要的是，还要不断提供电源与维护。

为了面对人类和机器人在未来的社会发展中越来越多的互动关系，美国的科幻作家阿西莫夫很早就提出了一条设计机器人的“第零原则”——机器人必须保护人类的整体利益不受伤害。在这条原则下，他又提出三条更为具体的定律。第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管，除非这违反了机器人学第零定律。第二定律：机器人必须服从人给予它的命令，当该命令与第零定律或者第一定律冲突时例外。第三定律：机器人在不违反第零、第一、第二定律的情况下要尽可能保护自己的生存。

阿西莫夫所提出的这些原则，当然是出自理想主义者的良好意愿。AlphaGo的开发，与这些原则也不矛盾。但是，人类在将来的发展过程中，会不会制造出违背这些定律的机器人，从而让机器人反过来战胜人类了？从理论上说，不是没有这个可能。人类到目前所拥有的核武器，据说早就可以把我们所居住的地球毁灭多次了。所幸的是，人类还是具有智慧和良知的。如果说人类不会用自己创造的核武器来毁灭自己，我想人类也会使用法律与道德的力量，来抵制开发人类将无法控制的机器人。