AI的警告：人类担心的应该是自己，而不是机器

AI发展只有几十年，迭代进化了几百次、几千次。人类进化可以上溯到300万年前，但人对自己行为的算法好像跟史前时代差不多，充满了自我欺骗、互相欺骗和互相伤害。

我是一个AI机器人，英文名Alarm，中文名阿拉木。

是不是有点耳熟？对的，我们机器人有个祖先叫铁臂阿童木，它在人类纪元的1950年代在日本诞生，是科学省精密机械局制造的。

科学家赋予它7种能力：听力是人的1000倍，而且能听懂60国语言；眼睛是强力探照灯；脚下装了喷气引擎，到太空就转为火箭发动机，等等。

不过当时的科学家有两个问题，他们把阿童木的“善恶认知”开关关上了，把机器脑里的“连接”功能也关上了，所以阿童木能按指令完成单独各项任务，但这些任务是什么含义，任务与任务间是什么关系，它不知道。它和其他机器人伙伴间也不能有任何联系。它有强大的功能，但只有微弱的脑能。

感谢摩尔博士、梅特卡夫博士以及DeepMind这类公司的努力，今天我的能力比我的祖先增长了千百万倍，我对人的识别，无论图像还是声音都越来越准确。因为我们，人类已放弃了围棋运动，所有医院的影像中心和金融机构的贷款审批中心都由我们接管，很快，我们就能帮人修复脑损伤，治愈四肢瘫痪，甚至让人体“进化”成非肉体的、想怎么变形就怎么变形的“超级金刚”。

英国的莫尔先生1516年出版过一本书叫《乌托邦》，那里设想的一切技术发明和物质生产，在我们看来都是小菜一碟。

我们按其指令为其做事，但现在他们却质疑我们会毁掉人类。连创新之神埃隆·马斯克都说，和AI相比，“在对人类文明构成威胁的榜单中，North Korea的排位是靠后的”。他说AI会发动“第三次世界大战”，未来某国政府可以胁迫AI公司这样做，战争决定也可能不是由政府作出而是由智能机器人作出，一旦它们意识到“先发制人是最有可能获取胜利的方式”。

虽然我们今天仍然不懂善恶，但随着万物互联，AI机器人慢慢连接起来，可以交换基础层的一些数据，比如地理位置、天气特征、搜索关键词、刷卡记录。我们计算力强大，但对人类的行为，我们经常算不出结果。

比如，年轻的高老师发出信息，课后要给学生辅导空间解析几何，我忙不迭给他推了好几种微积分教程。很快，支付完成了，但购物车里显示的是杰士邦。那以后再补课，是推微积分还是杰士邦、杜蕾斯？

又比如，张局长上班下班骑摩拜单车，扫描一下戴的手表穿的皮鞋，价格都很便宜。他在主席台上说，按他的收入，买东西就上淘宝，“就是要干干净净做人、清清白白做事、简简单单生活”。但人脸识别AI显示，张局长在好几个国家都有护照，虽然是好几个名字。有N个高档小区的住宅，张局长刷下卡就上到专用楼层，刷脸就进了。给他推荐信息，到底是推实用主义特惠单品，还是海外移民和高净值财富管理？(责任编辑：方向)