别陶醉于机器人讨巧你了

　　易国祥

　　最近媒体披露，英国标准协会颁布《机器人和机器系统的伦理设计和应用指南》，规定机器人道德标准是不许伤害、欺骗和使人成瘾。主要针对的人群就是机器人设计研究者和制造商，指导他们如何对一个机器人做出道德风险评估。

　　央视家庭幽默大赛呈现过一款机器人与嘉宾互动的情境，精灵古怪的机器人女孩“见人说人话”，现场找个“男朋友”，却嗔怪响应的“男朋友”没点儿矜持，细腻的情感反应，让兴奋的观众十分诧异。还有一个节目，是机器人家政赶跑了入室的窃贼。虽然都是正面表现机器人有利于人类的行为，但这无一不是它们的设计者给设定的。

　　阿尔法狗完胜李世石的背后是人。如今走到前台的机器人设计者坚守伦理道德，不等于未来的设计制造者都是道德卫士。与人类对科技形成共识相对容易不同，对伦理道德的认识反而日趋复杂。心智不成熟父母的非优化生育，在机器人领域将不是杞人忧天。

　　人类发明的非智能核武器，眼下都有管不住的危险，多少政治家为它焦头烂额。超级智能机器人势必就要超过人类智能，加之智能机器人的学习能力非常强大，如果人类还不抓紧净化和规范自己，就无法共同面对机器人，机器人“学坏”将不再是偶然事件。

　　人类进化到生物界的顶端，有过认知革命、农业革命和科技革命三次对自然界的过分掠夺，也损害了人类自己。现代克隆技术和智能机器人貌似对自然界物种的一种偿还。其中对于机器人的风险防控，应该是偿还中的一种理性，容不得放纵。

　　早在70多年前就有的阿西莫夫三定律，当时以保护人类为主的科幻理念日益成为了现实，现在的英国标准，是对机器人发展的前伸思考，预测与现实已经零距离。讨巧与取巧，保护与自毁，男女交往与异性骚扰，今天欣赏的喜剧，很可能就是明天的悲剧。

　　其实，中华文明早有对历史对人类负责的基因。孔子时代，有识之士拒用汲水的桔槔，担心机械变“机心”而坠落；诸葛亮懂得利用机械原理制造木牛和流马这种全自动化运输工具，因忧虑给人类带来大灾难，于是把这种技术毁掉。以牺牲科技为代价固不可取，但它却是中国科技服从人类意志的滥觞。如今，机器人研发从一开始就设置伦理边界，中国人更应该有一种文化自觉。