人与人签订的“协议”，而是我们制造机器人时给机器人规定的行为准则，也可
以看成是一组价值观。当然这个准则只是一般而论，如果有人想设计机器人用于
战争，恐怕就要改成“不伤害自己人，要伤害敌人”之类了。这类机器人非常危
险，设计者当然会加上多重的安全措施，以免它掉转枪口打自己，正如对军人要
训练他绝对服从命令一样。
机器人也会有某种程度的“自私”作为学习时的评价准则，例如尽量节约能
量。但是与人类比较起来，其自私的程度会逊色很多。这样估计有几条理由：第
一，人是进化的产物，是自私的基因的表现，其生存的意义就是生存本身，而机
器人是人是人设计的，其生存的意义是为人而存在的，是获得更多的知识。第二，
人是动物，受到很多生物学的制约，但是机器人则不存在这种制约。例如，生命
属于人只有一次，所以人（以及一切动物）都会尽最大努力保护自己的生命，
“我”是唯一的；但对于机器人而言，这些约束却不存在，机器可以自由的复制
自己，就像孙悟空拔一把毫毛变出成千上万的自己，到任务完成后再合成一个，
把各自学到的知识收集到一起；人的头脑不可能和****分离，机器人却可以把脑
袋放在某个计算机里，通过宽带网控制现场的身体，身体“遇难”了，再换一个
就是，如同我们换一件衣服，甚至可以根据不同的任务选用不同结构的“身体”；
机器人的“我”的概念与人类有很大不同，人类的“我”是一生不变的，不可分
合的，机器人的“我”可以是根据任务临时组建的，由于机器人的知识可以共享，
所有各个机器人获得的新知识都放在一个巨大的共同知识库中，当需要完成特定
任务时，可以按照任务需要从知识库中选取知识和经历，组建一个机器人，任务
完成后把所学的新知识、新经验加入知识库，“我”到此终结。这样可以随时产
生，随时消亡的“我”，当然没有太自私的理由。
所以那个老虎的故事就没什么道理，机器人的身体是金属和塑料制品，老虎
不会吃，没有理由逃走；即使损坏了，也可以很方便的修复或更换；而它如果想
出好方法来救人，就成为可贵的知识，被载入知识库，使自己的一部分得到永生，
何乐而不为。
问：
如果智能机器人不受人类控制了，怎么办？它们有可能会篡夺人类在地球上
的统治地位，把人类也当成一般的动物看待。
答：
“控制”这个词可以从不同层面上理解。拿空调机做例子，如果一个空调机
没有任何自动控制功能，只有一个开关，我们觉得热了就把空调打开，感到冷了
就关上，空调完全在我们的“控制”之下，但这样的空调用起来是很麻烦的。我
们现在使用的空调都有温度自动控制功能，温度高了自动打开制冷，温度低了自
动关机，自动维持我们设定的温度。看起来“人类控制”少了，但这样的空调我
们觉得控制更方便了。如果空调机更聪明，能听懂我们的话，我们只要说“这屋
里太热了”，它就会自动设定温度，****我们的要求，“人类控制”更小，我们
却更省事了。如果这个空调机不管我们的感受，随意设定温度，弄得我们很不舒
服，我们会觉得这台空调坏了，需要找人修理。问题在于，空调机的“目的”如
果不是为了使人舒适，又会是什么？是为了让空调机自己“舒适”吗？为了弄清
这个问题，先得明白人为什么会有“舒适”的感觉。人是恒温动物，过高或过低
的温度会使人的功能失调或消耗过大的能量，不舒服的感觉可以使人能够避开不
利环境，保护自己功能正常和节省能量。空调机不是恒温动物，其制造材料可以
在很宽的温度范围之内不会损坏，所以空调机自己“舒适”与否几乎没有意义，
如果从节省能量的目标出发，不开机当然最节省。从这个例子可以看出，从自动
控制的角度看，随着自动化程度的提高，人对空调机的“控制”越来越少，越来
越间接，但控制的层次是越来越深。最深层的控制是价值观的控制，即把人的价
值观（例如“舒适”）教给机器，让机器去追求实现价值的方法。
人类是有一点“控制”欲望的，从进化的角度看，人是从群居的猿进化来的，
在群体中居“控制”地位可以在获得食物和配偶等资源方面具有优势（好马和美
女总是属于部落的酋长），使得“控制欲”的基因得以扩散。但在实际的人际关
系中，却很少见到单纯的“控制”和“被控制”的关系，更多的是互利和契约的
关系。这是因为人类足够自私，是一种很难被控制的动物。看到记考勤的打卡机，
我们或许会觉得是人被机器所“控制”，然而打卡机并非为了自己的利益控制人
的，它维护的是一种制度，制度的根据是公司的利益，也间接的是每个员工的利
益。直接的看，员工是为了获得工资而接受打卡机的“控制”。作为人际关系，
“控制权”本身并不是一种利益，但确实要花费成本，所以“控制”只是作为追
求利益的一种间接手段，而不是本身值得追求的“价值”。
人和动物的关系也是如此，如果我们想随时获得猪肉，完全“控制”猪，就
需要付出猪饲料和猪舍的成本，“控制”不是免费的午餐。而对于野猪，我们是
没有多少“控制”能力的，实际上狩猎比养殖的成本更高。
人类是生物进化的产物，背负着生物进化的遗产——自私的基因，自私的基
因的根本目标是扩展自己的个体数量。但是人类还有文化，即不通过基因遗传而
通过后天学习、创造积累起来的知识和能力。文化内容大多数是顺应基因要求的，
例如高效率获得食物的技能；但也可能反抗基因的“控制”，例如避孕技术，就
说明面对基因的“糖衣炮弹”，我们有能力把“糖衣”吃了，把“炮弹”扔掉。
智能机器人不是进化的产物，而是人的设计，不必背负自私的基因，“自私”
并不是“智能”的必要条件。在人类中，也显然不是越自私的的人越聪明。人类
发明机器，是为了减轻或代替自己的体力劳动；人类研制智能机器人，是为了减
轻甚至代替自己的脑力劳动。具有高度智能的机器人，应该能代替人想出解决问
题的办法来，但这仍然需要设计者为其设定基本的价值观。人设定的价值观，当
然会让机器人遵循阿西莫夫的三大准则，让机器人爱学习（设定很强的“求知
欲”），但是不会给机器设定极端自私的“终极目的”（例如，最大限度地增加
自己个体的数量），因为这样设定对于提高机器人的智能并没有好处。
每一种生物都掌握着生存的“技能”，这些“技能”是进化的产物，但还不
是“智能”。进化产生“技能”的过程是非常低效率的，但是一旦有了“智能”，
人类可以通过学习和创造在文化中积累知识，人类的智慧就会以极高的速度增长。
智能机器人是人设计的产物，可以不经低效率的进化过程直接具备学习和创造的
能力，但是机器人要想获得知识，除了向人类几千年积累的知识宝库学习之外别
无他法，为此也需要根据人类的价值导向才可能进行，同时需要与人类直接交流
的能力。即使是一个人，如果从小隔绝人类文化，由狼群或猩猩养大，也只会有
很低的智力水平。所以从原理上，机器人就不可能“独立”地聪明起来。
综上所述，由于机器人没有自身的根本利益，价值观由人决定，加之“控制
欲”本身对于机器人的智能无意义（机器人如果需要众多个体共同完成某项任务，
采用“分身法”比“控制”人要容易得多），所以机器人“篡夺人类在地球上的
统治地位”是不可能发生的。
问：
智能机器人不可怕，但人是可怕的。如果有个黑客，为一个智能机器人设定
极端自私甚至仇视人类的价值观，让它大量复制“分身”，就会统治世界。也可
能会有些国家出于军事目的，制造大量的杀人机器人，也会让人类面临毁灭的危
险。
答：
没有一种事物不具有两面性，民主政治也会选举出希特勒这样的“元首”。
任何科学技术成果也都有行善和为恶两种使用方法，都有正面和负面的作用。药
物能治病，也能造成不良反应；飞机能进行高效率的运输，也会发生空难，还能
用来撞击大楼；核能既可以发电，也可以做******；电气化给了我们无穷的便利，
也带来短路火灾和触电身亡的危险；汽车速度越高，出事故时伤害越大……。但
是人类社会总会想出办法，让技术趋利避害，利用某种技术独霸世界的故事，只
发生在007的影片中，并没有出现在现实世界。这是由于人类足够聪明，足以想
出各种技术的、制度的方法防止危害发生，安全用电规程、交通规则就是例子。
世界上有很多黑客，但互联网并没有在他们的攻击下瘫痪；世界上的核武器从数
量上足以毁灭人类多次，但每个拥有核武器的国家都有完善的安全措施，防止核
武器的误用。人类头上有不知多少把“达摩克利斯悬剑”，但人类有能力把悬挂
它的头发丝换成一根足够结实的粗绳子。对于智能机器人，同样可以有很多软硬
件技术和制度防止出现危害人类的局面。
点击察看图片链接：
外篇 sfw2005。6期简评
买这一期之前有点犹豫，但还是买了。这一期我觉得最有价值的是随刊附赠的那个海报，构图很大气，色调也很舒服，比起近期sfw上面登的一般“科幻画”，尤其是中国人画的“科幻画”，真是天壤之别。
暗宇宙 “卷首特辑”改名叫“科学”了，很好，很好。
插图很绚丽，又请了爱因斯坦等“大腕”来助阵，估计能有点反响，会激发广大青少年献身科学事业的热情和决心。大家都去做霍金吧，——我是说身体上向霍金同志看齐。（…_…）
而文章则符合我一贯的宗旨：伪科学无极限！
我以前听说过“暗物质”这个东西，这是由于按照光度推定的宇宙质量与按照引力推定的宇宙质量存在着巨大差异，也就是有90％的宇宙质量是由光学手段看不见的物质构成，他们不属于恒星，星云等我们熟知的物质，有科学家提出“暗物质”是宇宙中广泛分布的中微子，也有人认为是氢原子，这又能证明什么呢？仅仅是我们目前不十分了解的东西而已。
应该说，我们对宇宙的认识还很肤浅，毕竟宇宙实在是太广袤，人类文明也还太年轻，我们未知的东西还很多。
可是作者在文中却一而再，再而三地暗示，牛顿错了，爱因斯坦也不对，万有引力公式根本解决不了星团的运动，95％的宇宙我们都不知道是什么，那么本就很不完善的现代物理理论，又能有多少借鉴意义呢？进一步说， 要是人类几千年来积累的物理学知识是错的，那么正确的又应该如何呢？更重要的是，要是研究了这么多年都是错的，那么研究还有意义吗？
作者更进一步：“即使在我们每天生活的地球上，在教室里，在餐厅，在卧房，到处充斥着看不见的暗物质。你不会撞到它，却也躲不开。”这句话非常强，如果“暗物质”是指带中微子的话，那么作者描述的也许是对的，但是中微子是人类文明已知的，虽然平时也是看不见摸不着，但绝对不神秘。就我所知，目前已知的东西，还没有什么检测不出来，当然要是根本不存在的东西除外（废话）。当然，鬼魂和超自然事物，以及不可思议事件也许是任何仪器都测不出来的。
作者无非是要把我们周围的世界神秘化，可以想象，如果我们周围充满了我们根本不知道的东西，我们可以肯定它们存在（这句与前面有点矛盾？），但我们日常的测量器具却又检测不出来，那会是什么呢？灵魂？还是什么其他神秘的东西？自己想象去吧。
并且，作者说宇宙的组成95％都是看不见的，其中65％，也就是一半以上都是“暗能量”，这我就万分地搞不懂了，虽说有个质能转换方程，但平常我们也没有把质量和能量放在一块来说。退一步说，要是“暗能量”与质量一起算作宇宙的组成部分的话，那么“明”能量，也就是我们日常知道的热能机械能电能磁能光能核能又占宇宙的多少呢？作者只字未提。
本来，近代物理学还很不完善，广义相对论也好，量子力学也好，毛病都很多，最著名的就是那个“薛定谔猫”，而且，在光年尺度上的天文观测本身精确性就非常非常有问题，推算的天体距离