吴晓波:关于科技向善,我心中的困惑和大家一样多

|科技向善 作者:吴晓波 2020-01-21

2020111日,由腾讯研究院主办的第三届" 科技向善 " 年度论坛在北京举办,本届论坛以「千里之行·Action Now」为主题,聚焦科技向善的行动路径,分享国内外先进案例和最新研究成果。

著名财经作家、《腾讯传》作者吴晓波在会上发表了主题分享。 

演讲中,吴晓波分享了科技向善提出的背景以及对科技向善的理解。他指出,科技的发展造成了人类和企业,将会面临一些两难状态,这种状态必须要让我们来回答科技向善这个问题。所谓的与人内心中对美好的向往,是不断发展过程中的结果。

与此同时,吴晓波与我们进行了关于基础层面上的讨论。第一个问题是共识的机制以及共识前提下的自律。第二个是行为规范以及规范下的惩戒代价。第三件事情是道德约束以及约束下的技术创新。

以下为演讲全文:

吴晓波:谢谢,下午好,很高兴能来腾讯做这个演讲,见到了Tony,我也是第一次来腾讯北京总部大厦,特别漂亮。

今天的主题是科技向善,来之前有些犹豫,这可能是我这些年面对的最困难的一个话题,因为我其实也没有完全想清楚这个课题,如果今天讲的有逻辑跳跃,你们要理解我一下,因为我心中的困惑和大家一样多。

在人类思想市场上,有两个东西一直在互相纠结和互相促进,一个叫做问题,一个叫做答案。有很多问题是有标准答案的,或者有一个明确答案,比如说 1+1=2,比如说两个氢原子加一个氧原子就能合成一个水分子。

但是,人类世界中也有一些问题只有问题,而没有一个标准的答案。

比如哲学家马丁·海德格尔说人类最重要的问题是死亡,我们一生都要去思考什么叫做死亡,叫做向死而生。加缪说得更绝对,他说真正严肃的哲学问题其实只有一个——自杀。但是海德格尔和加缪提出这个问题已经很久,你觉得到今天我们想明白什么叫做死亡,什么叫做自杀了吗?它还是一个问题,而没有确切的答案。

我想可能也是一个非常具有多样性和模糊前景的问题。咱们中国人其实挺讲的,比如说咱们从小念《三字经》,人之初,性本善。性相近,习相远。苟不教,性乃迁。

什么叫做呢?人之初性本善,百善孝为先。我查了《二十四孝》,其中有一则叫做埋儿养母。讲的是某个村子正在遭遇饥荒,村里有个孝子上有老下有小,但家里的粮食只能养一个人,到底是养儿子,还是养老妈呢?然后孝子同老婆商量,儿子可以再生,老妈只有一个,到晚上就到后院挖了一个坑,准备把儿子埋了,这叫埋儿养母

当年写这个故事的人也挺纠结的,故事的结局是孝子和他老婆到了后半夜,挖了一个坑,刚刚把儿子埋下去的时候,地底下出来了100两黄金,把他给救了。感动了苍天,最终是靠老天爷解决了善和孝的问题。

我前年曾经去一家做无人驾驶汽车的公司调研,碰到一个科学家,我跟他聊无人驾驶未来的前景。他说如果不出意外的话,大概在2030年左右的时候,无人驾驶汽车就可以上街了,一算是十年以后。他也给我讲了一个疑虑,他说他也一直在想一些问题:如果一辆汽车在悬崖边行驶,右边是山,左边是大海,如果突然间右边出现一个妈妈在推着婴儿车,如果驾车的是人,人会非常天然的做避让,这个车就会开到大海里去,车毁人亡;如果是无人驾驶的话,车要优先保护主人,那就会撞到妈妈和婴儿车。

这个科学家不光搞科研,估计也看一些人文方面的书。遇到他提出的这个困境怎么办?他讲到这个问题的时候,我想到了埋儿养母的问题,靠什么来回答这个问题?无论是埋儿养母也好,或者是一辆无人驾驶的汽车会不会在悬崖上撞上婴儿车也好。这是人类在极端环境下需要做出的选择。

之所以腾讯会在今天提出科技向善这样一个话题,应该也是科技的发展造成了人类,造成了我们每一个企业,将会面临一些两难状态。这种状态必须要让我们来回答这个问题。

这个问题的出现、反思和解答,我觉得既是一个技术推进的过程,又是一个国家发展的过程,同时也是一个全球化的过程。

我们刚才听了两位美国教授Max TegmarkStephen Balkam从人工智能和家庭伦理所面临的全球化现状和挑战的角度来谈科技向善,我想方方面面大概都是技术把我们推到了悬崖边,所以需要来回答这个问题。

我在这里想引用下社会主义核心价值观,社会主义核心价值观的第一个词叫富强,我们为什么要这么强调富强,是因为我们有一段时间太穷了,我们要让自己富起来,让国家强起来,所以核心价值观第一条叫做富强,最后一个词是友善。我不知道这12个词是按什么顺序来排的,但至少我们今天看到的情况是从头念到尾,头一个字是,最后一个字是

过去,我们一直在解决的问题,到今天要考虑到第24个字——“的时候,我们已经走了40多年。可能不论企业层面,国家层面,都需要考虑这个问题,习近平总书记在讲话中也指出金山银山不如绿水青山,因为很多年前我们为了发展,其实对绿水青山的保护重视不够。

在年轻的时候,我们很容易走极端:这个世界只有两种颜色,一种是黑的,一种是白的。当我们进入到商业世界以后,这个世界既不是绝对的黑,也不是绝对的白,甚至有一段时间是黑,过段时间会变成白,之后又变成黑。

我读中学一年级时,家门前有一条河,游泳都是在河里学会的,我那时站在河里可以看到我的脚,河水非常清澈。上世纪90年代,我当记者的时候回绍兴做纺织行业的调查,很偶然的一个机会我回到了东关镇,我想看看那条河,发现那条河的上游建了一些工厂,漂过来一堆堆白色的泡沫,而这条河里已经没有鱼了,我还专门写了一个内参讲环境污染与环境保护的问题。

我写完这篇文章没过几年,这个镇就变成了全国百强镇,出了两家上市公司。大概十来年后,我有一次突然间在报纸上看到一条新闻说绍兴市委书记到一条河边,拿了一个碗去舀水喝,说明什么呢?说明这条被污染过的河流,因为有钱了,因为东关镇是中国百强镇了,所以又开始有钱来治理这条河,书记又可以直接喝河水了。这个故事前后贯穿了20年左右的时间。可能所谓的,所谓人类内心中对这些美好的向往,人跟自然的和谐都是在不断发展过程中的结果。

科技向善这个词之所以是一个复杂的话题,我觉得它一方面跟商业有关,跟进步有关,跟科技有关,但同时又跟人类的困境相关。200多年前有一个德国诗人席勒讲过,所有的人分为两类,一类叫做理性的人,一类叫做感性的人。哪些人是理性的?科学家、政治家、历史学家;什么人是感性的?比如说诗人、艺术家、歌手、哲学家,人类面对的时候往往也在感性和理性之间纠结。

今天腾讯试图干一件事,试图把感性的人和理性的人揉到一个大脑里去,所以提出了一个词叫做科技向善。为什么说今天这么简短的分享是我多年来最艰难的一次呢?我觉得这句话本身就特别难以诠释,科技非常理性,它非常冰冷,就跟Tony(张志东)讲的一样,科技和商业很多东西需要KPI,需要量化的。甚至科技相信一件事情,那就是人类文明一定是向前走的,一定是进步的,后一代人一定比前一代人更科学,我们的孩子一定比我们更加进步,是相信进化的。

但如果从感性角度来讲的话,它相信柔软、模糊,甚至相信局限本身,人的进步并不一定是向前的。过去,我们经济取得了很大成就,建了很多大楼,我们开上了汽车,到了北方的冬天只要到房间里都不会觉得寒冷。但是你们觉得我们现在所写的小说、诗歌,一定比100年前的五四青年更好吗?甚至比1000年前唐宋的人更好吗?未必。

在感性层面上进步本身并不带有很大的绝对性,所以我们今天所希望做的事情是把这些理性的科技和柔软的感性的善做一个结合。因为科技进步本身已经成为了全球经济发展人类共同体的一个重要方向,而其中一些问题必须由我们来解决。为什么在今天有一家科技公司、一家互联网公司提出这样一个命题呢?可能是这些年全球思想界的一个重大变化。

在信息化革命之前,哪怕在整个18世纪末到20世纪初的整个工业革命时期,人类的进步是由一群纯粹意义上的知识分子在书斋里想出来的,他们可以在书斋里解决所有的问题。康德在一个小城柯尼斯堡,可以畅想人类的未来;马克思在大英图书馆里面,他一辈子只去过一个一百多个人的小工厂,结果写了一本书叫做《资本论》,思想可以在书斋里面被抽象出来。

但是自从进入到信息化革命,在过去的三四十年里面,知识重心发生了重大挪移,如果你今天不知道互联网、不知道信息化、不知道大数据、不知道AI、不知道基因革命,很难想象什么叫做伦理、什么叫做道德、什么叫做家庭,人类的爱情关系到底是什么,这些问题没有办法在书斋里想象出来。

特别有意思的是人类的思想重心开始由书斋进入到了实验室。今天有一家科技公司提出这个问题本身是挺有意义的,我们今天用几个小时来探讨这个问题,也是希望能够破题。

在善或者在道德层面上,人类在历史上也是一次一次希望通过某些行为规范来解决这些问题。比如中国人对孝对的理解?《二十四孝》是行为规范,行为规范里面有正面清单,也有负面清单。我们谈到的时候可能会在基础层面上讨论这些问题,我觉得有些问题需要被研究和被反复的讨论。

第一个问题是共识的机制以及共识前提下的自律。

什么叫做善?要有共识。当年我受腾讯的委托写《腾讯传》的时候,有一个问题困扰了我两三年时间,是关于开放的问题。曾经有一个“3Q大战,起源就是开放的问题。

在互联网人心目中,在七八年前,就像托马斯·弗里德曼的书名,他们认为互联网连接的世界是平的。互联网最大的一个道德特征和技术能力是把世界给拉平了,让人们能以最便宜的方式获得信息,所有的信息可以自由交互。

我在写《腾讯传》的时候,一直在向腾讯的朋友们请教这些问题,也在向中国的互联网朋友们请教这些问题,开放这个词如果跟有关的话,它到底有没有边界、有没有局限?

我在写《腾讯传》的过程中,当时发生了几件事情,突然有一天我看到一个新闻说,淘宝和微博不能互通了;再过一个月,百度和微博不能互通了;再过一段时间发觉说淘宝和微信不能互通了。

这应该都发生在2012-2013年,连续不断发生这样的事情,我们有一个巨大的讨论,无论是美国的互联网世界还是中国的互联网世界,我们大概形成了一个共识,认为平台型的互联网公司也是有疆域的,所以每一个巨大的平台级APP都变成了一个独立的信息孤岛。

刚才讲的这一段话放到六七年前,仍然会在互联网世界引起巨大的挑战。今天有一些规矩在互联网精神范畴里是需要被摧毁的,过去两年为什么那么多人愿意推动区块链技术的革命,他们认为区块链代表更大开放的可能性,在技术层面上我们需要一再讨论这些共识,什么叫做善?在科技不断进步的环境下,科技进步把人的行为和商业行为一步一步逼到墙角,我们需要形成共识,在共识的前提下,每一个企业形成自律。

第二个是行为规范以及规范下的惩戒代价。

我进入财经领域的调研写作到2020年已经30年了,前20年我大概都是在制造业企业,特别是在快消品企业里面,我当年写过很多书,各位如果你们看到我写的《激荡三十年》,里面有很多关于这些企业的故事。

最近十年我自己也创业,同时我在2008年的时候,当时我们团队写阿里巴巴的传记,阿里巴巴是让天下没有难做的生意。2011年开始接触腾讯写《腾讯传》,也做其他互联网公司的研究,这两年互联网公司的研究多一些。

我们会发现互联网公司可能比传统公司创造了更多的价值,但它的道德水平并没有比传统公司更高。这就需要我们通过共识,来形成全新的道德规范和行为准则。

当我们达成一定共识的时候,接下来会讨论哪些行为需要得到规范,而这些规范化的行为如何能够得到惩戒、承担代价。中国的资本市场为什么那么多人做假账,因为成本很低,我们在互联网环境下进行人格的诋毁,互相抹黑,拿到法院去审最高罚40万人民币,所以善跟恶之间的均衡一定跟代价有关。

第三件事情我认为是道德约束以及约束下的技术创新。

我始终认为科技进步对人类的发展是不可逆的,有汽车之后绝对不会再坐马车,这是完全不可逆的。所以在技术进步不可逆的前提下,新的机制本身是希望科技进一小步的时候,道德约束是会退步半步的,进步和退步之间怎么样能够形成一种共识和行为规范?这是我们需要讨论的事情。

今天特别高兴能来腾讯参加今天的活动,我觉得我们当下真的是没有办法来找到一个答案,如何来完成科技向善。刚才Tony的演讲挺让我感动的,我觉得他作为一个工程师、产品经理,他从产品的角度告诉我们说什么是有可能性的。

我记得有一次我去谷歌做访问,他们跟我讲了一件事,谷歌有一个原则叫做不作恶。有一个谷歌特别基层的工程师向委员会提了一个议案,他搜自杀这个词,搜出来有各种各样自杀的方式,他认为这是不对的。后来谷歌干了一件事,在谷歌上搜索自杀,第一个是24小时的咨询电话。我刚才在百度里搜了自杀,也是24小时的咨询电话。我觉得这可能是需要这些点点滴滴的行为和动作能够让我们对善的理解和科技之间的妥协能够慢慢达成。

最后用康德的一句话来和大家做一个总结。康德写了一辈子的书,最后把这句话写进了自己的墓志铭,应该也是他临死之前认为最重要的一句话:有两种东西,我们愈是时常愈加反复地思索,它们就愈是给人的心灵灌注了时时翻新,有加无已的赞叹和敬畏——头上的星空和心中的道德法则。

我的演讲完了,谢谢大家。

前沿杂志
互联网前沿42

无人驾驶汽车正从科幻变成现实。作为第二次机器革命(即如今的人工智能变革)的重要产物和标志,无论从未来5年、10年抑或20年来看,无人驾驶汽车都可能产生巨大影响,这些影响牵扯到人类生活的方方面面,需要政策制定者现在就开始绸缪无人驾驶汽车的未来并应对其潜在影响。

2018-07-11

全站精选