司晓 腾讯研究院院长
即使我们可以使机器屈服于人类,比如,可以在关键时刻关掉电源,然而作为一个物种,我们也应当感到极大的敬畏。
——阿兰·图灵
人工智能再一次成为社会各界关注的焦点,距这一概念首次提出来已经过去了六十年。在这期间,人工智能的发展经历了三起两落。2016年,以AlphaGo为标志,人类失守了围棋这一被视为最后智力堡垒的棋类游戏,人工智能开始逐步升温,成为政府、产业界、科研机构以及消费市场竞相追逐的对象。在各国人工智能战略和资本市场的推波助澜下,人工智能的企业、产品和服务层出不穷。
第三次人工智能浪潮已经到来,这是更强大的计算能力、更先进的算法、大数据、物联网等诸多因素共同作用的结果。人们不仅继续探寻有望超越人类的“强人工智能”,而且在研发可以提高生产力和经济效益的各种人工智能应用上面,取得了极大的进步。
伊隆·马斯克和马克·扎克伯格关于人工智能威胁论的辩论,代表了两种典型的声音。一边是公众舆论对强人工智能和超人工智能可能失控、威胁人类生存的未来主义式的担忧和警告;另一边是产业界从功用和商业角度出发,对人工智能研发和应用的持续探索,在自动驾驶、图像识别、智能机器人等诸多领域取得了长足进步。与此同时,很多技术研发人员认为人工智能不可能超越人类,威胁论是杞人忧天。
回顾计算机技术发展的历史,就会发现计算机、机器人等人类手中的昔日工具,正在成为某种程度上具有一定自主性的能动体,开始替代人类进行决策或者从事任务。而这些事情之前一直被认为只能存在于科幻文学中。
可以预见,决策让渡将越来越普遍。背后的经济动因是,人们相信或者希望人工智能的决策、判断和行动是优于人类的,至少可以和人类不相伯仲,从而把人类从重复、琐碎的工作中解放出来。以自动驾驶汽车为例,在交通领域,90%的交通事故与人为的错误有关,而搭载着GPS、雷达、摄像头、各种传感器的自动驾驶汽车,被赋予了人造的眼睛、耳朵,其反应速度更快,作出的判断更优,有望彻底避免人为原因造成的交通事故。
但在另一个层面,正是由于人工智能在决策和行动的自主性上面正在脱离被动工具的范畴,其判断和行为一定要符合人类的真实意图和价值观、道德观,符合法律规范及伦理规范等。在希腊神话中,迈达斯国王如愿以偿地得到了点金术,却悲剧地发现,凡是他碰触过的东西都会变成金子,包括他吃的食物、他的女儿等。人工智能是否会成为类似的点金术?家庭机器人可能为了做饭而宰杀宠物狗,以清除病人痛苦为目的的看护机器人可能结束病人生命,诸如此类。
因此,可以看到,人工智能这一领域天然游走于科技与人文之间,其中既需要数学、统计学、数理逻辑、计算机科学、神经科学等的贡献,也需要哲学、心理学、认知科学、法学、社会学等的参与。我国《新一代人工智能发展规划》中“人工智能伦理”这一字眼出现了十五次之多。未来,对人工智能进行多学科、多维度的研究和探讨的重大意义,将逐步显现出来。
本书正是这样一次跨学科的尝试,系统研究了人工智能的技术历程、产业趋势、战略设计、法律问题、伦理问题、监管治理和未来畅想等,几乎涵盖了人工智能领域的大多数热点和前沿问题。希望通过本书能够增进人工智能领域跨学科的思考、交流和探讨。由于专业领域和视野所限,本书很难做到面面俱到,也不免有错漏或不当之处,敬请读者批评指正。
最后,正如我在开头引用的阿兰·图灵的话,无论是从事人工智能的技术研发,还是开展跨学科、跨领域的公共政策、法律、伦理等人文探讨和研究,都需要带着一颗敬畏之心。