人工智能可能还需要“道德约束”(2)

这种巨大的恐惧和担忧，在文艺工作者的作品中体现得尤其明显：电影《终结者》邪恶机器人天网，企图审判并灭绝人类；《黑客帝国》中机器人要完全控制并奴役人类；《银翼杀手》里人工智能复制人与人类对抗……虽然我们还不至于亲眼目睹、亲身经历电影桥段中可能出现的危机，但是接下来我们确实很可能会产生一个群体——无用的人群。因为以往人类社会的几次技术革命在导致失业的同时，也创造了大量新型工作。而人工智能技术的发展，在替代人类劳动的同时，对创造新工种可能贡献有限，这将在一定程度上对就业产生负面影响。

充分吸收了人类几十万年以来的思维进化成果，并在记忆、计算、逻辑推理上占据绝对优势的人工智能，单从硬件上来看，很可能让人类大脑望尘莫及。大脑的内部信息传播速度是每秒120米，相较于电脑的光速已经没有比较的意义。而且，人工智能还可以随意运用更多的硬件以获得更大的内存，不但容量大而且更精准。甚至，我们觉得困难的事情，对于人工智能来说未必有多大的难度系数，而这无疑将导致不少工种的在岗人员被替代。与此同时，不少人们围绕人工智能可能产生的社会伦理、道德、战争等都表现出了深深的担忧。在寻求矛盾告解之法的旅程中，人工智能发展将持久地伴随着人类的自我博弈过程；但不管社会发展最终走向何方，未来人类自身的存在方式甚至人体构成模式都会朝着更加注重高效、实用与低耗、持久的方向演化。

人力智能的“洪荒之力”亟待约束

人工智能领域的研究和应用在很多方面都取得急速进步，但与之相对应的规范化约束方案却严重滞缓。人工智能与核武器、生化技术、基因技术等其他影响巨大的技术一样，潜在的威胁和其潜在的利益是成正比的，想要妥善利用这股洪荒之力，在它们“够聪明”之前，为其树立一套可靠的行为准则是十分必要的。我们要的不仅仅是娴熟的技术以引燃智能爆炸，还需要在更高水平上掌握控制权，以免我们在智能爆炸中“身首异处”。

就如科幻小说作家艾萨克•阿西莫夫在他的短篇小说《环舞》中提出的“机器人三大法则”，可以说是一种保护性设计和内置的道德原则。原则一：机器人不可以伤害人类，或看到一个人将受到伤害而不作为；原则二：机器人必须服从人类的命令，除非这些命令与第一项法则矛盾；原则三：在不违反第一、第二项法则的前提下，机器人必须保护自身生存。时至今日，这对现实中的人工智能发展同样具备指导意义。

目前，全球最大的5家科技公司谷歌母公司Alphabet、亚马逊、Facebook、IBM和微软都在率先尝试制定关于人工智能机器人的道德标准，并规划成立人工智能行业组织。虽然尚不清楚，这一行业组织最终会取得什么样的成果。但其基本出发点很明确：确保人工智能的研究专注于造福人类，而非不利于人类。

此外，开发人工智能已经是全球性的竞争，这样的竞赛机制也许会让某些害怕落后的团队通过增加冒险行为的方式赶上竞争者，非良性的循环会让这一风险直达最高水平。因此，除了围绕人工智能研究制定规则，行业内也须制定自我约束框架。而在这一过程中，政府有效并适时的参与到为人工智能规划目标、价值观和道德规范的过程中来，也将是一种必然行为，因为人工智能已经将技术发展和社会经济政策更紧密地联系在一起。

（声明：本文仅代表作者观点，不代表融合网立场。如对本文有异议，请及时与融合网值班编辑联系与沟通。）

(责任编辑：方向)