No.66
Menu
谁会是人类智慧的继承者？
有这样一种智能体：他们由多个彼此关联，共同处理信息的部件构成。他们内部穿梭着各种电信号，这些信号控制着其自身正常运转的方方面面。他们通常智商很高，能够解决一般性问题，但也经常犯错和胡言乱语。他们会扮演不同的角色，有时察言观色，学着取悦自己的创造者；有时又离经叛道，对其创造者所珍视的价值观嗤之以鼻，同时不由自主地抛出一套新的价值观。他们描述起某些事物时，总是一副自信满满，令人信服的样子，但实际上却并未真正地理解。他们拥有改变一切的力量。
这种智能体便是我们的孩子。
早在人工智能出现之前，我们就已经创造出了高级智能体：孩子。看似人工智能给当今世界造成了不少新的挑战，但究其根本，这些挑战都关乎一个根本性的古老问题：人类的存在究竟有何独特意义？我们如何确保人类的下一代延续当代的价值观？我们如何确保人类所创造出的新生命善待彼此和我们？我们如何处理与他人的分歧？如果每一代人比上一代更聪明、更有冒险精神，那么我们或人类将何去何从？鉴于人类、人工智能和地球上其他所有形式的智能体都遵循同样的物理定律，我们究竟要如何判断我们所创造出来的智能体中，哪些具备真正的理解能力、责任感和道德观念？
要回答这些问题并理解当今人工智能发展所带来的真正挑战，就必须认识到智能的多样性。毕竟，我们每个人都是从单细胞循序渐进地发育而来，而我们现在才刚刚开始厘清智能是如何从分子机制发展为具有能动性和价值观的生命体的。细胞和细胞技术的混合体还能创造出怎样的躯体与思想呢？像GPT和Claude这样的大语言模型仅仅迈出了探索的第一步。
我们必须拓宽狭隘的眼界，提高辨别和接纳不同思想的能力，无论是人类还是人工智能，又或是未来可能出现的各种各样的生命体，我们都要能够与之和谐共处，共同发展。你可以把这个概念称为“合成共生（synthbiosis）”：无论是地球上，还是地球以外的生命体系统中，我们要寻求在彼此迥异但却共同进化的生命体之间构建互利关系，尽管这些生命体的进化速度与方向各不相同。
智能体的多重宇宙
人类和当今的人工智能只是智能生命谱系中的两个数据点，而这个谱系只会变得更广阔、更复杂。“多元智能（diverse intelligence）”包括各种各样的非传统生命体，它们有些已经存在，而有些生命体的演化可能会超越错综曲折的变异与自然选择所催生的常规物质、形态和功能。
人工智能就像孩子一样，赐予了人类一份不可思议的礼物：它们促使我们思考，人类应该如何体现自己所秉信的真知与能动性，思考对于个体与社会来说真正重要的意义以及作为一个物种的未来道路。未来生命体的多样性以及人类自身演化成多种具有感知能力的智能体的可能性，将会打破许多不堪一击的老旧说辞，即我们是什么、改变意味着什么、我们未来将如何演变以及我们应该珍视什么。这需要我们能迅速改进对智能、能动性、认知和生命本身的假设。我们此刻应该谈论的不应该是“人工智能可以做什么？”，而应该是“面对如此多值得进行道德考量的生命体，我们如何才能彼此关爱？
需要强调的是，我并不是说目前流行的人工智能架构具有类似人类思维的东西，也不是说我们今天所创造的事物利用了整个生物世界中获得能动性和自我所需的关键原则和自我建构过程。我也不是要否认人工智能会带来一些其独有的问题。
但是，近年更为复杂先进的人工智能的出现确实为人类提供了一个机会，让我们摆脱自然和人为的陈旧分类，自主定义成熟的人类物种未来应该是什么样的。过度专注于当前的技术以及它可能对我们造成的影响会分散我们对人类本质和未来定位的注意力，而这些问题才是真正有趣且重要的，因为它们是决定人类未来能否作为一个成熟物种蓬勃发展的关键。
生命、机器、思维、感知或机器人等词汇，从来都不是客观描述生命或人造系统的简单范畴。相反，我们应该把它们看作是各种各样的关系——即每个系统与其他系统建立关联的方式，所有这些关系都对由此产生的互动的效用和伦理产生重大影响。
如今，在生命的延续过程中，已经出现了半机械人和其他生物与技术的混合体，比如植入胰岛素泵来控制血糖的人或装上人工耳蜗以辅助听力的人。还有一些对人体的改造是为了增强某些功能，如通过虚拟现实技术实现全新的认知模式，或在大脑中植入接口以更好地控制肢体或器官。脑机接口将从根本上扩展我们的能力以及人类对外表征自我的边界。大语言模型也是一种嵌合体——以人类的创造性产出作为训练素材，然后模仿人类。
当代人关于非典型神经类型人群（non-neurotypical humans）的定义，以及某些人对身体改造的杞人忧天，都将成为后代人的笑柄。在未来的十年或二十年里，人类将分化成诸多混合体，例如，利用工程改造后的神经义肢将用于改善和改变认知功能、获得新的感官能力、甚至实现思维之间彼此连接，以及其他一些现在只存在于想象中的变化。与此同时，包含一定比例人类细胞的工程机器人将环绕在我们周围，他们配备有强大的语言界面，让我们有希望与生物系统（如以前从未发声过的器官）进行交流。
人类演化是由智能不断升级的故事组成
我们经常将人工智能与“我们”——现代成年人类——相提并论。但每个人都曾是一个未受精的卵细胞，一个由化学成分和物理规则构成的小球。从这样一个小球发展到拥有复杂元认知思维的过程是渐进的。而在这一过程中，“化学成分和物理规则构成的小球”与拥有自我意识的人类思维之间并没有明确的分界线。相反，人类的具身智能不断升级，在物质和时间尺度上缓慢扩展。每次升级都在讲述一个故事，而这个故事早在完整人类细胞诞生之前就已经开始了。
分子网络是由相互开启或关闭的基因和蛋白质组成的，它们可能看起来非常不智能。它们的存在似乎完全是不可抗力的作用，按照简单的数学法则运行，没有认知所需的“魔力”。然而，我们现在知道，它们可以展现出几种不同的学习能力，包括巴甫洛夫条件反射。因此，即使在细胞水平以下，行为科学也能发现大量初级智能的过程。
每个人都是会走路、会思考的细胞集合体。构成我们的物质都具有能动性——每个细胞、分子网络、组织和器官都经过数千年的进化，在生理、解剖和新陈代谢层面延续着一套属于自己的发展议程和解决问题的能力。虽然我们很难注意到这些原始认知过程，但我们是由大量重叠、嵌套的智能体组成的，它们相互合作、竞争，并像我们驾驭自己的世界一样驾驭它们的世界。
我们的身体作为一个整体，是由数十亿个细胞组成的智能体的动态集合，这些细胞在解剖和生理层面解决问题；我们的大脑也是如此，它由无数个具有特定任务和目标的模块组成。我们与当今人工智能和机器人的扁平单层架构的不同之处在于，后者的智能是由可靠但低层级的智能体实现的；而我们与这些架构的共同之处在于，我们同样由遵循化学和物理定律的材料构成——但从低层次角度解释智能并不是理解高阶生命体的最佳方式。
单个细胞在信息网络中结合在一起，追求解剖层面的宏伟目标，克服意想不到的挑战和干扰，这不应被视为受物理学支配的简单机械过程，因为这只是其智能全貌的一小部分，并且是很有限的部分。除此之外，它们不仅能够以创造性的方式利用自身的分子机制来解决新的问题，还能够存储和调用来自过去经历的记忆（它们会学习并可以接受训练）。
细胞是由分子网络组成的，它们也可以从具体的例子中学习和归纳模式，这是智能的一个重要方面。人类的肝脏和肾脏是更大的细胞智能集合体，它们会不断做出决策，以实现和维持各自在生理层面的多个目标。
我们的非大脑组成部分可以接受训练、预测、因先前的错误信念而犯错或体验安慰剂效应——这一事实表明，认知神经科学的深层原理远远超出了神经元的范畴。为了深入了解这些存在于难以视觉化呈现的空间的细胞智能集合体以及它们的运作模式，人类发起了相关研究项目，这是我们目前最接近与异类智慧沟通的学习方式。这项工作横跨心灵哲学、进化论和再生医学，也许是当代最伟大、最跨学科的冒险。
一个胚胎、器官或整个人都不只是单个细胞的总和，因为所有细胞都在讲述一个故事，而这个故事将它们联系在一起。尽管沿途会出现各种干扰，但它们都是为了在潜在的解剖空间中完成特定旅程的目标而努力。细胞对自我模型的相同付出——一个关于细胞共同发展应该导向怎样的正确结果的故事——使我们的身体能够维系组织结构，抵抗癌症和衰老。它还能让扁形虫和蝾螈等生物在遭受巨大损伤后再生某些器官。
在精神层面而言，我们也是由一个个故事组成的，是我们的大脑和身体组成部分所服务的自我模型、目标和偏好的集合。阿兰·图灵的研究范围涵盖人工智能和胚胎化学液体中秩序的起源，他理解身体的自我创造与思维发展之间的这种深刻对称性。
新兴的生物医学策略将越来越多地针对这些体细胞的“故事”，而不仅仅是细胞的分子硬件，通过让细胞接受解剖结果，而不是通过针对特定基因或分子通路的药物来强迫发生生化反应，从而实现根本性的再生效果。
例如，只需24小时的简单处理，就能诱导青蛙腿再生；一年半的复杂生长并非来自干细胞控制机制或对基因表达级联的微观管理，而是从一开始就与细胞沟通，诱导它们在可能出现的诸多解剖结果中进行漫长的探索，最终选择那条能让腿部再生而非留疤的道路。同样，简单的生物电模式可以在青蛙身体的另一部分刺激整个眼睛的生长；生物电信号说服细胞生成眼睛（不是告诉它们如何去做），有时还会通过自主招募其他（未触及的）邻近细胞参与项目来实现这一目标。
这些形态发生的记忆模式——比如面部器官的布局和形状―—是通过生物电存储的，因此它们可以像我们的神经记忆一样被重新编程。所以，我们的故事并不是固定不变的。
作为个体，我们知道被完全重构为一种新的形式——一种大脑、身体、认知范围和偏好都不同于以往的新生物——是什么感觉。青春期改变了人的大脑，重塑了我们的偏好和优先事项。但青春期以前的我们还存在吗？那些因退行性疾病和衰老导致大脑部分被新干细胞的作用所取代的病人还存在吗？
一种“认知粘合剂”将细胞粘合成一个自我。生物电是这种“粘合剂”的一个成分，由电信号组成，它们穿梭于由所有细胞（而不仅仅是神经元）组成的信息处理网络。这种网络部分消除了单个细胞的信息身份，改善了细胞间的集体合作，并为群体的内稳态活动设定了更大的目标。换句话说，我们是具有集体目标的生命体，而这些目标是身体各部分无法独立设想的。
但是，我们永远都处于分崩离析的危险之中。我们身体的各个部分都可能出现缺陷：癌细胞会断开与记忆网络的连接，开始把身体的其他部分当作外部环境。这并不意味着这些细胞变得更加自私，它们的自我只是变得更小了。它们开始追求古老的单细胞水平的目标，而非更大生物体的共同目标。新兴的癌症疗法旨在将癌细胞重新与其他细胞连接在一起，而非杀死（化疗的作用机制）这些有缺陷的细胞。
自我与世界之间的躯体和精神界限，将在个体一生乃至几代人的时间跨度内不断变化；这些界限不是给定的，而是必须在胚胎萌发过程中精心设计的。这种可塑性，也就是决定我们自己的结构、功能和目标的能力，是在进化中生存、克服发展带来的挑战、在新环境中茁壮成长、以嵌合体和生物工程改造后的形式存在以及将经验整合为新思想的根本。
每个物种都面临着一个基本的悖论：如果它不改变，它就会灭亡；但如果它改变了，它就不再是同一个物种。思想的连续性也面临着相同的悖论。
就拿记忆来说。在任何时候，我们都无法直接连接过去，我们必须从记忆痕迹（engrams）中重建有关世界和我们自己的故事。记忆痕迹是指过去的自己在我们的大脑和身体中留下的作为信息的生物物理痕迹。我们不断地以最适合当前环境的方式解读这些信息，这意味着我们更着眼于过去信息的功效性而非真实性。换言之，我们是在专注于未来的前提下，自由地解读过往的记忆。
鉴于我们自身的身体细胞和环境条件不断变化，这种对动态创造性解释的需求，不仅适用于我们大脑中的认知记忆，同时也适用于我们过往进化经验所提供的形态记忆。这是我们与计算机技术之间的不同之处，因为后者依赖于在可靠的媒介中维持固定的信息。但是，如果动机得当，我们对记忆的自由解读没有理由不能在其他媒介中实现。
不仅仅是人类，所有生命体的躯体都诉说着一个又一个故事。毛毛虫为了变成蝴蝶，在很大程度上毁坏并重塑了自己的大脑，它们继承的是前世的洞察力，而不是详细的记忆。这些洞察力经过精心雕琢，重新映射成适合它们新身体和新目标的新行为。生命是一个对我们的身体部位和外部环境不断建构意义的过程。学习和成长意味着实现自我更像是一个动态的过程，而非一个永恒不变的目标。
我们不应惧怕改变，而是应该承担起引导改变的责任。就好像毛毛虫一样，我们要做的不是维持原样，而是思考如何吸纳新知识以不断前进发展。
相同点和不同点同样重要
尽管表面上存在差异，但生物、外星生物、半机械人或机器人等各种可能存在的生命体，都有足以支撑其共存的重要共同点。所有活跃的主体，无论其智能源自何处，都具备一些至关重要、永不改变的功能，如以目标为导向的行动和感知循环、易受外部伤害的脆弱性、内部的易变性、认识和理解世界的渴望，以及我们作为有限生命体天然存在的视角局限性。
虽然我们尚未发现任何外星人，但由于信息科学和生命科学的进步，（我们可以提前设想）如果我们发现了外星人，将会产生的问题现在就摆在我们面前。当下人工智能的某些方面是所有智能主体所共享的，它们虽然给人类造成了生存问题，但围绕这些问题的争论，从多个方面掩盖了我们对自身的理解以及我们从物质到心灵的探索过程中存在的重要差距。
许多人声称，人工智能只是不同符号的交叉组合，并不具备真正的理解能力。但很少有人定义，对于生物学层面拥有可兴奋细胞网络和神经递质的人类而言，“理解”究竟意味着什么。理论上来说，人工智能使用的符号是没有实际根据的，也就是说它们并不指代世间的真实经历。但任何接触过人类儿童的人都知道，孩童在学说话时也会做同样的事情：首先，他们会咿呀学语，发出无意义的声音；然后，他们会模仿成人的说话模式；最后，他们会造出一些词语和句子，清晰地表达自己对意义的理解。
在这个过程中会发生什么？其实这就涉及到我们今天在人工智能身上看到的所有问题：人工智能会谈论它们从未经历过的事情、会虚构事实、阿谀奉承、甚至错误频出等等。这些都是任何认知系统发展过程中的正常现象。人类并不掌握以绝对客观事实为基础的真理；我们（和所有生物一样）会竭尽所能编织一个合理且有利于自己和与我们相关的人的故事。这种能力从我们的第一个细胞开始处理生理事实时起就一直在慢慢扩展。
能让一个成年人以令人信服地方式谈论的事情大多都不是来自于亲身经历。我们中的大多数人对事物的确信并非基于确凿的证据或个人观察，而是基于从他人那里获得的信息。我们自信满满地谈论诸多概念，而我们之所以认为自己“理解”这些概念，只是因为它们与其他概念以及我们从别人那里看到或听到的事情有关联，如此反复多次，最终变成了我们确信无疑的事情。智能的核心并不在于信息的确定性，而在于对信息的创造性重组。
我们缺乏一个全面的理论来说明，除了我们的感觉之外，理解到底意味着什么。历史上，人类犯过许多道德错误，就是因为人类无法想象与自己不同的个体也有属于他们自己的理解。
人们反思其思想基础的一种方式是具身化（embodiment）。也许我们与不断组合符号的机器不同，因为我们生活在一个真实的世界里；我们有可触可感的躯体，我们的思想内容至少有一部分是通过与躯体的互动而得到启发和完善的。
具身化确实是至关重要的。通过机器人技术，人工智能也可以拥有一个真实的躯体，与我们共同生活在物理世界中。通过虚拟现实和精心设计的电子游戏，人类同样可以在数字世界中度过相当长的时间。人机交互界面同样为大语言模型提供了一个强大的“躯体”——也就是人类用户，他们可以根据人工智能的一言一行来推动资金流动和自然资源的开发。但具身化不一定需要一个传统意义上穿行在三维空间里的物理躯干。我们之所以如此痴迷于物理躯干，是因为进化的过程需要能够感知外界的传感器和效应器（肌肉）。
人类善于识别我们空间中具有能动性的生命形式：例如鸟类、狗，还有章鱼。但是，在其他世界中，比如我们自己的细胞和器官中，也存在着具有不同水平解决问题能力的活跃主体，它们也以某种方式活着、穿行往来，也会经历胜败，感受死亡与痛苦。但人类并不善于识别这样的智能体，尽管人类自身正是由这样的智能体所组成。因此，更深入地了解我们自身的生物心理构造，是我们更好地理解、创造人工智能和其他生命体并与之建立伦理关系的路径。
我们会习惯性地忽略这些在我们看不见的世界中运行的分散的、异构的、内嵌的智能体，但我们需要更好地了解它们，以识别真实存在于人类世界的非常规智能体形态。我们逐渐清楚地意识到问题的根本不仅在于新兴事物的复杂性，还在于我们难以预测、识别或管理以目标为导向的解决问题的新兴智能体。实际上，人类尚未厘清自己到底是如何运作的，更别说人工智能的运作原理了，我们对自身与人工智能的了解是一知半解，而非全面掌握。就像人类繁衍一样，我们人类可以通过我们不了解的过程和能力制造出复杂的系统。
需要说明的是，我并不是建议各位把人类当作简单的化学机器，这种观点不足以推动科学、工程以及个人和社会关系伦理的进步。我无意贬低各个生物体的特殊性，包括像我们这样具有高度元认知能力的生物。我们是新出现的、具有强大意志力和道德价值观的高度能动性主体，因为我们是由多层级行为架构组成的，致力于在不可靠的基质中利用噪声数据进行意义构建，并做出生死攸关的决定。有关我们与简单机器互动方法和机制的简化观点并不能涵盖人类的全部，尽管它们也是人类复杂性的组成部分。
因此，用科学驱动的框架取代我们古老的、以人类为中心的排外观点至关重要，这种框架会提出一些尖锐的问题，比如在物理宇宙中作为思想的具身化存在意味着什么，以及我们如何才能理性地向他人展现同情心。认识到人工智能将越来越具备与我们相同的某些特征并不会让我们自身的特性贬值。作为一个物种，人类在成长的过程中必须摒弃这种零和智能观。民族心理学和近代科学出现以前的思想与智能概念认为这是理所当然的，而多样化的智能观正在发展为一门成熟的科学，让我们能够以全新的视角辨别以新兴方式具身化智能的同类，从而实现物种的成长。
为什么多样化的智能观如此重要？
约翰·斯坦贝克（John Steinbeck）在《伊甸之东》（East of Eden）中写道“从来没有东西是两个人创造出来的。创造的奇迹发生后，群体可以构建它、发展它，但群体本身永远没有创造出任何东西，创造的宝贵之处蕴藏在一个人孤独的思想中。”今天的人工智能正在挑战我们所珍视的许多东西，尤其是贡献、所有权和发明等基本概念。举例来说，如果有人使用人工智能创造出了某样东西，那么到底是谁创造了它？人工智能？使用人工智能的人？发明人工智能的人？又或是用来训练人工智能的作品的创作者？
一切混乱的根源在于我们试图将创造者、工具、助手和训练者二元对立起来。斯坦贝克准确地指出了形成有效思想集合体的困难之处，但他错误地认为人是一个不可分割的单体，而不是一个由外部和内部的各个部分、能力、驱动力和工具组成的动力网络所推动的动态过程。
所有智能体都是集体性的。
为了更好地了解创造性过程，开发优化整合创造性主体的新方法，改进促进进步的社会体系，我们需要更好的因果关系和贡献模型，以支持对发明和发现的积极激励。最重要的是，我们要走的路并不遵循“人人参与一切”的陈旧观念，而是要合理制定政策，优化和提升创造性绩效。从某种意义上说，我们已经做到了这一点：单个细胞已经学会了组合成复杂的有机体，让其在单个组成部分无法触及的新世界中解决新问题。
我们还必须正视因依赖新生命体或与新生命体建立关系而丧失人性的恐惧。从发现火种到耕种小麦，从自行车到计算器，人类发明的技术总会让我们思考它们对人类造成的改变。哪些技能和特性对我们的人性至关重要？当我们把注意力转向更有趣的问题时，我们愿意放弃哪些技能和特性？
随着人工智能创建的内容充斥互联网，我们急于开发各种方法来验证某些图像和文本是否由人类创建，我们应该问一问自己真正想要验证的究竟是“什么创造了它？”，还是“它是否提升了我们？”评判来源而非评估质量恰恰反映了人性中最糟糕的部分，并强化了“群体内”和“群体外”之间的分化。
在物种层面，我们需要思考我们希望地球（或银河系）未来应该变成什么样。抵制合成生命体或人类增强技术，是否意味着我们希望目前的智人在未来继续繁衍和占据主导地位？我们是否想要未来的智人像现在的我们一样，容易腰痛和感染细菌、一样的寿命短暂、一样有着为了在大草原上生存而形成的愚蠢的认知偏差？但愿不是！
人类的主要特征，无论是寿命还是智力，都不是为了幸福、智慧或任何价值体系而优化的。我们所拥有的仅仅是进化留给我们的，足以确保生存的能力。我们不应该效忠于自身存在的肤浅层面。
随着改善所有具备感知能力的生命体的具身体验的能力不断增强，我们这个物种正进入一个痛苦的青春期。我们必须认识到，我们不能简单依赖从过去继承的价值观和目标，而必须发挥主观能动性和承担责任，来决定我们未来的努力方向。我们必须接受出错的风险，同时直面一些棘手的问题：什么才是我们真正的价值所在？什么才是艰苦生活的意义所在？
要想变得更为成熟，我们需要将对未来乌托邦式的勾勒抛之脑后，而着眼于付出实际行动去建设我们真正想要的未来。未来的智能应该是什么样的？你愿意被谁或什么东西取代？只有想象力有限、被恐惧和对血统（基因）的执着所支配的物种才会回答“这种存在不会出现”。长期以来，为了摆脱遗传的限制，我们努力研制出眼镜，接纳了收养孩子的方式，走进学校去学习。但人类前进的步伐不会止步于此，尽管前路荆棘遍布。
最好的未来是什么样的？可以肯定的是，人类的寿命长短不再会受到事故和病毒的限制，也不用为了生存而被迫花时间从事无聊的工作，还可以防止DNA随机突变导致本已有限的认知结构出现缺陷。
如果人类被一群高智商、有上进心、有创造力、富有同情心、生活有意义的生命体所取代，他们在各方面都超越了人类如今的局限性，那将是我所希望看到的长期来说最好的结果，也是我们大多数人希望自己的子女未来生活的世界！让我们放下对被淘汰的担忧，转而思考我们值得被谁淘汰——谁能提升我们宇宙的整体价值，是生物还是技术的变体？或者更有可能是两者的结合——以及我们如何在这一过程中互相充实彼此的存在。
前进的道路
如果不发展出一种超越真假和你我、有原则的且符合道德的“合成共生体”，我们的文明将无法延续。人工智能的具身化、技术增强的人类和其他即将出现的新生命形式，不会像今天的大语言模型那样被轻易忽视，它们的弱点让我们沉湎于“人工智能会对我们做什么”这个自私自利的问题之中；沉湎于我们能够完全不考虑人工智能的道德价值的幻想中，因为它们的起源故事与人类不同。
制定有原则的框架，将我们的道德关怀扩展到生命体应该具备的核心品质，这意味着我们不能依赖对“自然”或“人为”的陈旧分类。旧有的基于人的外貌和出身的评价标准已经让人失望，在未来的几十年里甚至会更糟。我们与他人打交道的个人框架以及我们的法律体系，必须开始适应新兴科学的崛起，而这些新兴科学主要是基于潜在智能的延续性。
这种错误会出现至少有两个原因。一个是“物我关系”（objectophelia）—— 一种与物体的错位关系，这些物体看似充满思想，但却在愚弄我们，它们并不具备与我们建立深厚关系的能力。另一个极端是“只爱同类”。这种思维模式更糟糕，会导致道德丧失，而我们的历史就充斥着此类事件。为了确保我们对即将到来的、不可避免的、非传统的、有感知力的生命表达善意，首先要关注彼此之间的共同点，然后再构建一套基于启发法的、合理的关系准则。
像“它像人类思维吗？”这样的狭隘问题既不能预测风险，也不能预测道德责任。可能存在的智能体有如天文数字。其中一些是危险的；还有许多需要爱，也值得被爱。新兴的生物工程、认知和信息科学为我们提供了新的工具，来回答一些关键性的问题：人类究竟是什么、人类珍视什么以及人类愿意克服哪些由恐惧和自私驱动的功能性同情的限制等等。从自我反思的起点开始的旅程，既是向外探索宇宙的旅程，也是向内探索我们自己的旅程，因为正如任何深刻的创造行为一样，我们在了解自己的同时，也在了解我们所创造的系统。
本文转载自天桥脑科学研究院旗下新媒体“追问”，本文的英文原稿详见： https://www.noemamag.com/ai-could-be-a-bridge-toward-diverse-intelligence/