凡草：人脑与电脑（之二）

人脑与电脑（之二）

凡 草

阿尔法狗（AlphaGo）大战围棋世界冠军，九段高手李世石以4：1一败涂地。虽然电脑早已普及，可是，在围棋这个需要极高智力的战略性游戏中取得这个成绩，说明人工智能已经发展到一个崭新的阶段，科幻小说里的机器人也越来越接近于现实应用。

第一次对机器人感到恐惧，是上世纪70年代末看科幻电影《未来世界》的时候。一个巨商邀请社会名流参观他以‘未来世界’为主题打造的旅游点，然后谋杀这些名人，用酷似他们的机器人取代。巨商则通过控制这些机器人利用名人的社会影响玩弄世界谋取私利。影片中的男女主角经历了九死一生和机器人搏斗，看得我惊心动魄。

电脑发展到了今天的地步，将来的机器人会不会像这个电影里的那样，或者更可怕一些，变成超越人类的高等物种，并且伤害人类？当代的科幻小说大师阿西莫夫可算是描写机器人的鼻祖，他的答案是否定的。他认为，机器人的设计以不伤害人类为基点。在早期的小说中，他给机器人制定了三条基本原则。一，机器人不得伤害人类，或者目睹人类遭受危险而不救。二，机器人必须服从人的命令，除非该命令与第一原则冲突。三，机器人在不违反前两条原则的情况下尽可能保护自己。为了保证这三条原则的实施，他假定，这三条是机器人设计中的必要条件，一旦任何一条被违背，机器人就会陷入混沌状态而失去功能。

随着科技的发展，阿西莫夫渐渐醒悟，这三条原则不足以解决问题，因为机器人永远是隶属于人类的，当人类处于不同争端之时，怎么可能不利用机器人为自己服务。于是，阿西莫夫就增加了高于这三条的另一条原则，并称之为零定理，机器人必须保护人类的整体利益不受伤害。

可是，这一条更是纸上谈兵。拿什么来定义人类的总体利益？哪个程序设计师能够做到这一步？不要说设计时就必须预期到将来可能发生的事件，就连历史事件也无法判定绝对是非。当年美军在日本投下了两颗原子弹，虽然死伤惨重，却也结束了第二次世界大战，避免了战争持续造成的更大伤亡。这么重大的历史事件，而且已经发生在60年以前，依然有人在是非道德上争论不休。

设想在战场上分处楚河汉界两边的机器人，它们要么不执行参加战斗的命令，要么就会伤害另一边的人类。人类在发展过程中是需要不断总结经验修正错误的，并非一帆风顺勇往直前。自古以来‘成为王侯败为贼’，无论中外，哪朝哪代都有辨不清的是非曲直。现实社会无法象科幻小说那样非黑即白。人类尚且不能判明的事情，怎么能指望人类设计的机器人搞清楚。

近年来的科幻小说已经放弃了阿西莫夫原则，而试图从另外的角度揭示人对机器人的控制。几部描写机器人的科幻片都表达过一个类似的观点，当人和机器人搏斗时，人原本处于劣势，可是，一旦人省悟到，既然这个机器人是以‘我’来仿制，试图取代‘我’的，那么，它就一定具有‘我’的善良和理性，也存在着‘我’的弱点……知己知彼，从而在这个原则上战胜了机器人。所以，人类的理性和智慧才是控制机器人举动的关键。

人对机器人的另一条恐惧在于，即使机器人被和平利用，也可能取代人类，使大量人工闲置而失业。其实，类似的恐惧早在历史上就发生过。随着工业革命，自动化程序的到来，人类的工作性质也慢慢变化。农业机械的应用使农民转型变成了工人，繁重的体力劳动为机器替代，人类则由付出劳力转型为操纵机器，甚至于远距离监视，用电钮遥控。当然，任何转型过程都需要与潮流并进的远见和能力，因为它不是一个个人的行为，也就需要行政当局的协调和策划。

当年破坏机器反对工业化的人，如今被历史远远抛在身后，却无法阻止科技大步发展。高科技本身不会带来灾难，带来灾难的是控制高科技的人。所以，说到底，机器人不会毁灭人类，毁灭人类的，只能是人类自己。