作者

Joseph Fridman、郭瑞东（译者）
转载自集智俱乐部（ID：swarma_org）

预测代替思考：重新审视人的价值

       早在2016年，Facebook 的工程师们就可以吹嘘他们的发明每天吞噬数以万亿计的数据点，每秒产生超过600万个预测。毫无疑问，Facebook 的预测引擎现在更加强大，它会无情地推测你的品牌忠诚度、你的渴望和你的愿望。该公司的核心产品是社会心理学家 Shoshana Zuboff 所说的“预测产品”：对未来的猜测，通过对我们的生活和思想的不断深入探索汇集起来，然后卖给那些想要操纵未来的人。
       然而，Facebook 及其同行并不是唯一投入大量资源来理解预测机制的实体。在预测控制这一思想在企业领域占据主导地位的同时，它也在认知科学领域获得了众多追随者。根据一个越来越有影响力的神经科学家学派，他们围绕“大脑的预测性编码”这一观点来定位自己，我们最重要的器官的基本活动是产生一连串的预测：关于我们将听到的噪音的预测，我们将感受到的感觉，我们将感知到的物体，我们将采取的行动，以及随之而来的后果。总的来说，这些期望编织了我们现实的织锦——换句话说，我们对未来世界的猜测变成了我们所看到的世界。大约400年前， 笛卡尔提出了“我思故我在”的格言，认为认知是人类生存状态的基础。而今天，这句话恐怕得改改了。正如认知科学家 Anil Seth 所说：“我能预测（我自己） ，所以我存在。”

图1. 安尼尔·赛思（Anil Seth），萨赛斯大学塞勒意识科学及心理中心认知和计算机神经科学教授和中心创始人之一，其代表作有《神秘的大脑》。

       但如今，人类自身内在的逻辑与外在的政治逻辑依然殊途同归。预测性编码——当今顶尖脑科学家用来理解人类最深层本质的工具——也正在被当今最强大的企业和政府使用。这是怎么发生的，意味着什么？

从齿轮到电子：人体的机械化类比

       科学家和历史学家 Matthew Cobb 在《大脑的想法》(The Idea of The Brain，2020)一书中解释说，对于这种奇怪的融合，有一种解释来自于一种更广泛的历史趋势：人类通常以他们那个时代蓬勃发展的技术来理解神经系统。托马斯·霍布斯在他的著作《利维坦》(1651) 中把人类的身体比作“自动装置”，“它们像手表一样通过弹簧和轮子自动运动”。霍布斯问道，如果神经不是弹簧，而就是由许多弹簧组成的呢？同样地，笛卡尔描述了动物神经活动时，指出神经活动遵循驱动液压机器同样的物理特性。
       电子通讯系统的兴起加速了这一趋势。在19世纪中叶，外科医生和化学家 Alfred Smee 说，大脑是由电池和光伏电路组成的，这使得神经系统能够与身体进行“电报通信”。在19、20世纪之交的时候，神经系统科学家 Santiago Ramón y Cajal 将不同神经结构的位置描述为有点像电线杆支撑导线。在第一次世界大战期间，英国圣诞讲座协会邀请了解剖学家和人类学家 Arthur Keith，他将大脑细胞的运作比做电报操作员。

心理学：人类行为的预测与控制

       今天主宰我们许多生活的技术主要不是液压技术或光电技术，甚至也不是电话或电报技术。它们甚至不是任何简单意义上的计算。它们是预测性的，它们的基础设施构成和限制了生活各个领域的行为。旧的基础设施仍然存在，输电线支配着家庭和工作场所，水通过隐蔽的管道流入水槽和淋浴间。但是这些基础设施现在是由预测技术管理的，它们不仅指导材料的运输，而且还指导信息的传输。预测模型构建我们不断更新的信息流；它自动补全我们的文本和电子邮件，提示我们按时上班，并挑选出我们在上下班路上听的播放列表。执法、军事和金融领域的相应决策越来越多地受到专有预测引擎吐出的自动评估的影响。
       这些预测引擎已经引导我们接受预测性大脑的想法。心理学自成立以来就一直关注人类行为的预测和控制，它本身也是如此。心理学家William James在1892年出版的《为心理学辩护，称其为“自然科学”》(a Plea for Psychology as a“ Natural Science”)一书中写道：“所有自然科学的目标都是实际的预测和控制，其中没有哪一门科学的情况比今天的心理学更为如此。”
       在詹姆斯看来，只要心理学家能够帮助社会管理其居民，他们就是社会的财富。詹姆斯说：“我们生活在一群对控制精神状态最感兴趣的人的周围。”每一个教育家，每一个监狱看守人，每一个医生，每一个神职人员，每一个收容所管理人员，都要求心理学给出切实可行的规则。

图2. Green Nudge（绿色推动法）是一种主要利用人类心理和行为制定环保政策的一种方法，其往往在激励人们进行环保行为的同时，也给予人们一定自由选择的权利。

从敌军到消费者：我们可否预测一切

       第二次世界大战的军事斗争巩固了这种认为人从根本上是可以量化和可预测的观点。长期以来，战时的敌人一直被描述为只适合被猎杀的野兽或昆虫，或者是一个遥远的统计数据。但是现在有一些新的东西需要面对：战斗机飞行员、轰炸机、导弹发射器。1994年，历史学家Peter Galison写道：“他是我们的敌人，他精通战略、战术和机动策略，而我们却完全无法进入，距离、速度和金属构成的鸿沟将他们隔开。”在技术设计、传感器和处理器的帮助下，攻击这个敌人是危险的。每一次你试图了解它，每一次你试图预测它的轨迹并杀死它，它就会了解你更多。Galison解释说，这个敌人并不是什么低于人类的野兽，而是“一个机械化的敌人，产生于麻省理工学院以及美国和英国众多大学的实验室为基础的科学战争”。它是一部分人类，一部分机器，也就是我们今天所说的半机器人。

图3. 人工智能是否会成为未来战争中的最利武器？

       同盟国动员一切科学力量对抗这个敌人，包括行为学和计算机科学。那个时代最有影响力的想法之一是一个被称为防空预报器的装置，它被设计用来模拟敌方飞行员，预测他的轨道和射击。这是麻省理工学院数学家和科学家 Norbert Wiener 的创意。Wiener 和他的同事 Julian Bigelow 一起开发了后来被称为控制论的学说：一种通过因果反馈循环来理解世界的方式，在这种循环中，一个行为的结果作为进一步行动的输入，允许错误被自动纠正。正如 Galison 所写：
       把敌人的飞行员与机械混为一谈，以至于人与非人的状态模糊不清。在与这个控制论敌人的战斗中，Wiener 和他的团队开始构想盟军的防空操作员与敌人相似，从盟军中人与非人之间界限的忽略到整体上人机界限的模糊，只有很短的一步。在20世纪40年代的控制论视野中，人体生理学的原型，以及所有人类本性的原型，都是伺候机械。
       战争期间，越来越多的机器和武器包含了反馈系统； “许多新机器出现了，它们具有前所未有的自我调整和纠正能力。”精神病学家、控制论学家 Ross Ashby 在他的《为大脑设计》(Design for a Brain，1952) 一书中说。这些是“高射炮、火箭和鱼雷”，它们给士兵和科学家留下的印象是，机器可以故意行动。试着把它们甩出航线，它们就会像飞机上的敌方飞行员一样纠正并朝你飞来。随着他们继续研究反馈过程，Wiener和他的同事们开始将自我调节机器和有意识的人类行为看作一体，甚至用控制论的术语来解释生物动力学（如体内平衡）和社会现象。这包括大脑——Ashby 说，大脑的“整体功能”相当于“纠错”。
       敌人是一种预测和控制的对象。消费者是另一个。John B. Watson，20世纪早期行为主义心理学的创始人之一，认为他的学科的理论目标是预测和控制行为——服务于教育者、医生、法学家和商人的需要。1920年，由于婚外情被要求从约翰·霍普金斯大学辞职后，Watson 成为了那些商人中的一员，加入了麦迪逊大道上的 Walter Thompson 广告公司。
       在 Watson 到来之前，心理学和广告学有着天壤之别。然而，根据 Watson 的传记作者 David Cohen 的说法，在 Watson 的公司仅仅工作了几年之后，他的公司总裁就在伦敦给政客和商人们上课，说“人类的集体行为和制造过程中使用的物质材料一样受法律的制约。”早期的行为主义者认为，人类是输入输出机器，受到刺激反应定律的约束。不存在心智模型，只有可预测的输入和行为输出。Cohen 写道，潜在买家就像一台机器。提供正确的刺激，他会做出正确的反应，从自己的口袋里掏钱。广告公司将资助 Watson 等研究人员自己进行的实验，以检验他们提出的关于消费者的规律，为他们对习惯性产品使用、目标信息传递和品牌忠诚度等现象的理解找到合理依据。

图4. 约翰·华生（John Broadus Watson）是美国心理学家，行为主义心理学的创始人。主要研究领域包括行为主义心理学理论和实践、情绪条件作用和动物心理学。

       广告代理商不仅仅把这些原则应用到销售谷物和香烟上，而且还销售政治候选人。例如，广告业高管 Harry Treleaven 在美国待了近20年，直到1966年离开美国，帮助乔治布什赢得首次竞选，进入众议院，之后又帮助尼克松在1968年赢得美国总统大选。该机构的许多高管都选择了同样的道路，《纽约时报》接着将其描述为“尼克松政府最多产的人力资源供应商之一”。

自动模拟：可编程、可预测、可控制

       1960年，尼克松首次尝试成为总统，标志着企业预测和控制事业的重大转折。历史学家 Jill Lepore 在她的著作《如果那么》(if then，2020) 中描述了 Simulmatics 公司的生与死，在某种程度上象征着这一轨迹。当他们在1959年2月开业时，和 J Walter Thompson广告公司相差无多，公司的创始人们正准备投入战争。政治是他们的战场，尼克松是他们的“凶猛对手”。为了击败这样一个强大的敌人，该公司总裁 Edward L. Greenfield 认为，民主党候选人约翰 肯尼迪需要一个秘密武器。Lepore 写道，现代美国政治就是从这个秘密武器开始的，预测模拟旨在影响从市场行为到投票的一切。
       为了制造这种武器——“自动模拟”—— Simulmatics 公司集合了来自麻省理工学院、约翰·霍普金斯大学和常春藤联盟的顶尖科学家。根据 Lepore 的说法，许多学者“接受过心理战科学的训练”。其结果是创造了一个“投票行为机器，1960年大选的一个计算机模拟”，这是“有史以来最大的政治科学研究项目之一”。
       这个模拟是为了提供关于人口中的一部分人会如何投票的预测，考虑到他们的背景和政治竞选的情况。该公司声称对肯尼迪的胜利负责，但是这位当选总统的代表否认与该公司有任何关系。Simulmatics 接着预测了许多其他事情：它在1963年模拟了委内瑞拉的经济，目的是使共产主义革命失败，并参与了越南的心理学研究和预测种族骚乱的努力。不久之后，该公司成为反战抗议的目标，并在十年末申请破产。
       然而，仿真学对世界的看法依然存在。创始人相信，通过计算机科学，任何事情都是可能的，“一切，总有一天，都可能被预测——每个人的大脑都会被模拟，然后像导弹一样准确无误地被定向信息引导。”今天的全球化预测性公司已经将这一现实带入现实，大规模收集数据，并利用科学概念使其开发合理化。如今，用 Lepore 的话来说，激励着 Simulmatics 创始人的想法已经变成了几乎所有公司的使命——收集数据，编写代码 if-then-else，识别模式，预测行为，直接干预，鼓励消费，影响选举。

图5. 冷战期间成立的 Simulmatics 公司，挖掘数据、锁定选民、操纵消费者、破坏政治稳定和混乱知识，比Facebook、谷歌和剑桥分析公司早了几十年。哈佛大学的美国历史学系教授吉尔·莱波尔（Jill Lepore）在麻省理工学院的档案中发现了该公司的文件，并重述这段被遗忘的历史，还有硅谷的傲慢及其手段背后失传已久的历史。

       我们如何理解我们的生物学和我们如何组织社会之间的联系由来已久，而且这种联系是双向的。当人们作为一个集体走到一起时，他们的组织架构通常是通过可运用于个人的相似概念和规律而被理解的；合并、公司、并入这些词分别由肉体、主体、身体的拉丁词根派生出来的。在《利维坦》中，霍布斯说：社会是一种身体，社会是一个人造的灵魂，赋予全身生命和运动；裁判官和其他司法和执行官员，是人造的；奖励和惩罚（通过奖励和惩罚固定在社会的地位，每个人和成员都被激励去履行他的职责）是社会的神经系统，在人体中也是这样。
       相反地，我们经常把支配我们社会的逻辑强加于我们自己的身体上。在《创造：一首哲学诗》(1712) 中，内科医生和诗人 Richard Blackmore 认为内在的动物精神是人类行为和感觉的原因。在 Blackmore 的诗歌中，这样的精神是“心灵的守护者”，被命令去巡逻神经系统最远的区域，在每一个“感官通道”守卫着他们的岗位。Blackmore 的“警惕哨兵”继续监视“边境”，回到大脑，只是根据他们的印象给出报告并接受新的命令。正如学者 Jess Keiser 所说，Blackmore 的身体是由同样的公民和士兵创造的，正如他所融入的政治世界一样。
       今天，许多探索预测性大脑的神经科学家将当代经济学看成一种类似的解释性启发式学说。哲学家 Andy Clark 在一篇关于大脑预测性编码的著名评论中指出，科学家们在理解“花费巨量新陈代谢的代价，来建造复杂的大脑是如何对寻找最优适应性这一目标有利的”这个问题已经取得了很大进展。预测性大脑的想法是有意义的，因为从新陈代谢的角度来看，它是有利可图的。
       同样，心理学家 Lisa Feldman Barrett 将大脑预测的主要作用描述为管理身体预算。她说，在这种观点中，你的大脑有点像公司的金融部门，能够预测资源配置、消耗能量、投机和寻求投资回报。对 Barrett 和她的同事来说，压力就像是身体预算的“赤字”或“提款”，而抑郁症就是破产。在 Blackmore 的时代，大脑是由哨兵和士兵组成的，他们集体的忧郁变成了他们所居住的人类的悲伤。今天，我们把大脑想象成由预测统计学家组成，而不是士兵，他们的错误变成了我们的神经官能症。正如神经科学家 Karl Friston 所说：“如果大脑是一个推理机器，一个统计器官，那么当它出错的时候，它会犯统计学家会犯的同样的错误。”

人性回归：技术碎片无法构成人类

       预测经济学和脑科学之间的这种联系很重要，因为——如果我们不小心的话——它可能会鼓励我们把我们的人类同胞变成机器的一部分。我们的大脑从来都不是计算机处理器，尽管时不时地以这种方式想象它们可能会很有用。它们现在也不是字面意义上的预测引擎，如果它真的实现了，它们也不会是量子计算机。我们的身体不是穿梭在服务员周围的买家，也不是那些需要好好投资的公司。我们从根本上来说不是被欺骗的消费者，不是被追踪的敌人，也不是被预测和控制的对象。无论竞技场是科学研究还是企业智慧，我们都很容易陷入对抗性和剥削性的认知框架；正如 Galison 所写，“控制论与武器、对立战术和将人性看成黑匣子这些概念之间的联系不会轻易消失。”

图6. 若未来的工业革命以仿生学、网络技术等作为核心方向，赛博朋克世界是否会成真？

       我们如何看待自己很重要。正如女权主义学者 Donna Haraway 解释的那样，科学和技术是人类与世界互动的成果。但是，根据资本主义关系建立自然经济，并为了支配产品的目的而占有自然经济，这种做法的影响很深刻。人类不是技术的碎片，不管它有多复杂。但是通过这样谈论我们自己，我们默许那些决定这样对待我们的公司和政府。当预测处理的预测者将预测视为大脑的标志性成就时，他们冒着给自动化预测系统毫无根据的可信度的风险——将智能的光泽分配给人工预测者，无论他们的预测多么粗糙、有害或者自我实现。它们暗中威胁要使预测引擎塑造和操纵人类主体的方式合法化，反过来，它们鼓励我们按照这种形象塑造自己。
       科学家们可能认为，他们只是在构建观察和理解的概念和机械工具——神经科学时代的望远镜和显微镜。但是观察工具可以很容易地固定在武器的末端，瞄准大量的人群。如果说预测系统最初是作为武器出现的，目的是让人类在战场和市场上拥有控制权，那么这就给了我们额外的理由去质疑那些现在使用这种武器的人。科学家们应该非常仔细地思考他们的理论和解释的双重用途——尤其是当涉及到按照平台资本主义的路线重新设计科学时，正如科学历史学家和哲学家 Philip Mirowski 所主张的。
       Seth 写道，“感知总是由功能性目标塑造的：感知世界（和自我）不是为了其本身，而是因为这样做是有用的。”只要这样继续下去，我们就必须问：我们现在试图科学地感知人类心智的功能目标是什么？它仍然植根于预测和控制的谱系吗？我们是不是把更多的自己塞进机器的嘴里，只是为了看看它能生产出什么？依据谁的权威，为了谁的利益，为了什么目的？

原文链接：

https://aeon.co/essays/on-the-dangers-of-seeing-human-minds-as-predictive-machines