金兼斌:能力越大责任越大 | 科技向善大咖说

|法律政策 作者:腾讯研究院 2019-10-30

【科技向善大咖说·第六期】

金兼斌

金兼斌,浙江诸暨人,清华大学新闻与传播学院教授,博士生导师,院学术委员会主任。先后在清华大学获得工学士、文学士、工学硕士,在香港浸会大学获得传播学博士学位,牛津大学互联网研究所访问学者(2006.5-2007.1)。主要从事新媒体使用与效果、科学传播等方面的实证研究。

现任清华大学新闻与传播学院教授、博士生导师,是《传播与社会学刊》、Asian Journal of Communication 等海外学术期刊审稿人。致力于新媒体使用与效果、传播学理论与方法等方面的研究。承担《社会网络中的舆情演变机制研究》、《面向WEB的社会网络理论与方法研究》等国家级社科基金、自然科学基金项目。

 

金兼斌老师从跨学科视角,分享关于科技向善时代背景的思考,通过对科技事件的分析谈科技向善的理解和未来走向。以下是访谈内容精选:

 腾讯研究院: 这一轮互联网革命与工业革命相比有没有质的变化?   

 金兼斌: 我觉得有非常大的质的差异。从某种意义上说,工业革命把人从直接的体力劳动中解放出来,劳动很大程度上变成对工具的操作和使用,因此出现蓝领工种和白领工种的社会分工;现在互联网和人工智能革命正在把人从大量的白领工种中解放出来。两次技术革命所带来的社会变革方面的差别,在规模和层次上可能完全不是一个量级的。
从质的层面看,原来技术的突破很多是生产力意义上的一些突破,现在技术带来的挑战,则涉及对人之为人的特殊性进行的全方位解构或解析。这一轮革命对人类整体带来的影响将是与此前农业革命、工业革命截然不同的。技术带着地球这个「诺亚方舟」已经来到其命运长河的险滩,能否顺利穿越这一波激流险滩,考验着人类的整体协同能力和道德力量。

 腾讯研究院: 您如何理解「科技向善」?

 金兼斌: 人类历史发展到今天,已来到一个转折点。2018年、2019年可以说是非常明显的一个转折点,有一系列的标志性事件接连发生。2018年11月26日,南方科技大学副教授贺建奎宣布一对基因编辑婴儿于11月在中国健康诞生,这是人类第一次越过以生殖为目的的人类胚胎基因编辑活动之红线。
这一事件对人类作为一个物种所具有的潜在后果在于,被修改的基因将通过两个孩子最终融入此前一直保持「自然纯净」的人基因池,使人类今后在物种演变意义上可能面临巨大的不确定性风险。
现在,全世界范围内有这种改造能力的组织和科学家并不少,如何确保在贺建奎之外不会发生类似的越轨事件,其实是对人类整体的协同能力的巨大考验和挑战。人们已经意识到,先进科技可能带来不可收拾的多米诺骨牌效应。科技使人有能力、权力;如何不滥用这种权力,需要高度的自律和协同。
另外一个例子是近期发生在巴西亚马孙雨林的大火。这场雨林大火可能已经永久性破坏了地球的重要生态系统中的关键一环。像全球气候变暖导致的北极冰川融化一样,这些累积的变化已经到了这样一个临界点,即全球范围内极端天气的发生将越来越频繁,地球家园的宜居性在受到空前威胁。
随着包括生化武器和人工智能等技术的发展,会有越来越多的人和技术具备对现在人类文明的发展进程造成结构性毁坏的能力。世界上各国间出于共同关切所签署的各种协议,但由于主权国家和个体一样,具有天生的短视性和自利性,除非出现非常强有力的全球范围内的强约束性协作机制,在我看来人类已经很难完全预防一些「意外事件」——如贺建奎基因编辑婴儿这样的「意外」——的发生。马斯克等人意识对人工智能的发展需要尽早进行规制,说明其实很多人已经意识到,技术作为人类的被造之物对人类作为创造者的反噬,绝非杞人忧天,而是实实在在的可能性。这就是科技向善的时代大背景。

 腾讯研究院: 科技向善是否可以兼顾商业利益和社会价值?为什么?

 金兼斌: 科技向善是否一定是反生产力的?这既是一个理论问题,也是一个现实问题。我想任何一个公司,当其产品与服务所涉及的人数到达一定量的时候,这个公司的存在,特别是现在平台为王时代公司所建立的平台生态系统,就自动成为整个社会生态系统不可分割的一部分,这个公司作为一个利益主体与社会系统所进行的一切交互,就需要考虑其社会责任,而企业所提供的服务也必然同时具有社会公共品属性。
因此,科技向善,一如同仁堂著名对联「但愿世间人无病,何妨架上药生尘」所体现的「仁者爱人」之理念,它本身不仅不是反生产力的,恰恰是成就一家百年老店闪亮品牌背后的关键。这有点类似当初谷歌广为人知的「不作恶」之公司理念。
当然从程度和觉悟上,「向善」比「不作恶」更进一步,这也是人类进入风险社会,作为社会创新发展主力的企业应该具有的远见和自觉。从长远看,任何一个伟大的公司一定会把向善这一发展伦理视作其可持续成长和发展的前提条件。能力越大责任越大。伟大的公司需要在这方面有率先垂范的自觉意识,不能等着社会来提醒和鞭策。
企业秉承向善之理念,常常与其经营上的繁荣昌盛互为因果,并行不悖。世界上大量伟大的公司的存在已经雄辩地说明了,科技向善是成立的,科技向善本身并非逆人性或者反商业的。君子爱财取之有道,企业也一样,一定是有所为有所不为。当然相信科技向善并不能排除仍会有不少企业唯利是图,见利忘义,罔顾企业社会责任。这就需要政府和社会加强对企业的监管和监督,以及通过行业组织和协会进行同行约束。科技向善是社会真、善、美建设的题中之义。

 腾讯研究院: 践行科技向善,科技企业、政府、学界之间,各自的角色应该是怎样的?

 金兼斌: 一方面,任何有抱负和远见的公司或企业,一定也是高度重视企业社会责任和社会形象建设的。科技向善也许在不同企业有不同的表现形式,但一定是任何伟大企业的企业文化中的核心价值元素。就像过去的大家族大多都有家训,信奉「耕读传家久,诗书济世长」,现代企业的可持续发展,同样需要在利用技术利器的同时,主动承担社会责任,让技术造福社会和民众,而不是成为社会共同价值的破坏性力量。从这个意义上,科技向善的实现,企业的自觉自律是基础。
另一方面,所谓法无禁止皆可为,企业在不违法的情况下,选择空间仍然是巨大的。因此,政府通过立法引导、民众通过媒体和舆论进行监督,对于企业切实履行其所承担的社会责任,也是一种必不可少的机制。
随着社会化媒体的发展,一方面固然用户的信息和行为越来越为有关企业和平台所掌握,但另一方面,平台和企业也时刻处于人民大众的社会化监督之中。这种相互监督和制衡,将是确保企业科技向善实现的终极机制。
新技术的风险点被大众意识到后是否能做出更好的调整,比如算法推荐内容,这些年在社会和媒体的高度关注和监督下,特别是在政府主管部门的直接过问和干预下,有关平台和企业已经在用户隐私保护、算法公开、尽量防止内容推荐和消费中的过滤细胞效应等方面,有了大幅改善。而政府有关部门对新的技术的监管框架,也在不断调整和演变中,以更有效地发挥规制作用,引导技术和社会的良性健康互动。

 腾讯研究院: 您看这一轮技术走向比较乐观还是比较悲观?

 金兼斌: 在「技术失控」这个层面上,我是比较悲观的。虽然会有各种各样的力量来规制技术的滥用,但由于这种滥用的风险点实在太过分散和多样,很难能够完全管控。在一个联系高度紧密而智能的时代,也许一个偶然的失误或者一小群掌握一定技术的反社会分子的对某些技术的恶意使用,就会造成一系列灾难性的连锁反应。
但是从另一方面来说,技术的发展和使用毕竟是人类自身切身需求和选择所致。也许当社会生产力和文明程度发展到一定阶段,散落在社会不同角落和空间的敌意和戾气也会大幅度消散,人类社会的诺亚方舟最终能够奇迹般驶过命运的激流险滩,那么,共产主义社会的美好愿景,将是完全有可能实现的。

 腾讯研究院: 除了基因编辑、核武器、环保,对未来十年、二十年的技术,哪些是你比较担忧?

 金兼斌: 新的科技应用对不同的社会个体,赋能效果是不一样的。因此,就技术给我们生活带来的影响而言,我们需要关注这种技术赋能的不均衡性可能导致社会民众新的阶层分化和不平等。对于社会上相对比较技术弱势的人群,也许有必要考虑一种社会化技术救助机制,与基于家庭和亲缘的技术反哺结合,最大限度实现新技术的普惠服务
另外一个问题是新技术和产品的扩散使用带来的伦理问题,如人们现如今对算法所内嵌的价值偏向的担忧。拥有大量用户的平台或公司,某种意义上的确拥有像上帝一样的视角:用户使用偏好和日常所思所想,通过流经平台的各种行为性信息和文本性信息,统统为平台所掌握,尽收眼底,一览无余。这就是技术和资本的权力。
在这种情况下,企业和平台如何慎用权力,有所敬畏,保持克制,关乎社会和用户对企业的信任。这方面企业或平台最好能够有清晰的符合法律和伦理规范的产品和服务设计、使用原则和政策,并保持政策的透明性,接受公众和用户的监督。
在技术劈波斩浪往前推进的同时,如何让技术最大限度惠及各行各业的人们,让科技真正成为一种向善的力量,同样需要国家、企业、社会乃至个人的分工协作,通过一种切实可行的创新机制,来最大限度保障社会最广大人群分享技术和文明发展所带来的红利。
前沿杂志
互联网前沿42

无人驾驶汽车正从科幻变成现实。作为第二次机器革命(即如今的人工智能变革)的重要产物和标志,无论从未来5年、10年抑或20年来看,无人驾驶汽车都可能产生巨大影响,这些影响牵扯到人类生活的方方面面,需要政策制定者现在就开始绸缪无人驾驶汽车的未来并应对其潜在影响。

2018-07-11

全站精选