作者 | 蔡雄山 腾讯研究院资深专家
袁俊 腾讯研究院助理研究员
2020年1月13日，以美国麻省理工大学物理系终身教授、未来生命研究所创始人迈克斯·泰格马克为首的科学家们，在国际顶级学术杂志《nature communications》中发表了论文《The role of artificial intelligence in achieving the Sustainable Development Goals》，首次系统评估了人工智能对实现联合国可持续发展目标（SDGs)）所发挥的作用。
文章从人工智能与可持续发展目标间的关联度入手，将全部可持续发展目标划分为社会、经济以及环境三个领域维度，着重分析人工智能对相应领域施加的积极与消极影响。继而分析证据之间的关联度，在检视既有研究空白的基础上，提出打造可持续人工智能的若干建议。本文是文章的核心内容摘要。
一、人工智能(AI)与17项可持续发展目标(SDGs)之间的关联
注：图1显示了17项联合国可持续发展目标
注：图2显示了报告将联合国可持续发展目标划分为社会、经济和环境三大领域
注：图3左侧绿色a部分表示AI对SDGs的积极影响占比79%，右侧橘黄色b部分表示AI对SDGs的消极影响占比达35%。饼状图代表17项SDGs目标，分别从社会、经济和环境三个领域维度表示AI的正面和负面影响。就积极影响而言，人工智能可以促进实现134个细分目标，分别占比达到82%、70%和93%；就消极影响而言，人工智能可能抑制59个细分目标，占比分别达38%、33%和30%。
二、人工智能在社会领域的影响
注：图4将17项SDGs目标中的目标1、目标2、目标3、目标4、目标5、目标6、目标7、目标11、目标16划入社会领域，绿色部分表示AI扮演积极角色，橘黄色部分表示AI扮演消极角色。
在社会领域中有67项细分目标（占比达82%）可以从人工智能中获益。例如目标1（消除贫困）、目标4（优质教育）、目标6（清洁水源与环境）、目标7（可持续能源）、目标11（可持续宜居城市）。例如人工智能既可以助力低碳系统城市的创建，实现可持续能源、可持续宜居城市和气候变化应对等目标。在智慧城市或循环经济中实现更高效地资源利用，或者促进自动驾驶汽车与智能家电的快速发展。此外，人工智能可整合多重形态的可再生能源，通过智能电网将部分电力需求与光能、风能相匹配，以此持续改善全球能源利用效率。
虽然仅有31个细分目标（占比38%）会受人工智能的负面影响，但下列负面影响不容忽视。
一是人工智能难以克服各国资源不均的问题。先进的人工智能技术、研究和产品需要大量的计算资源，继而产生巨大能源需求，而上述资源只有通过大型计算机中心才能获得。例如发达国家创造的以比特币为代表的加密货币应用产生的全球用电量，恐怕与部分发展中国家全国的电力需求一样多，这就违背了确保人人获得负担得起的、可持续的现代能源的目标。
二是在促进可持续发展目标的同时，恐引发不平等。例如对消除贫困、普及优质教育和促进性别平等三大目标起到抑制作用。以目标1.1消除极端贫困为例，虽然人工智能可利用卫星识别技术加强国际援助，但会额外提高技术门槛，加剧现有不平等。此外，人工智能技术设备分布不均衡也会加剧不平等。例如小规模农业生产者并不拥有复杂的人工智能农业设备，可能加大与规模生产商之间的差距，进而影响了消除饥饿，对达成粮食安全的目标造成不利影响。
三是人工智能尚未充分评估算法、图像识别或强化学习等技术对性别歧视和少数族群的潜在影响。例如，机器学习算法不加批判地选择日常新闻来训练，将无意间学习到现实社会对女性的偏见，继而嵌入其自然语言算法中。此种偏见歧视产生的根源，除了缺乏多样性的数据集外，劳动力群体中缺乏女性和种族的多样性也是重要原因。
三、人工智能在经济领域的影响
注：图5将SDGs目标中的目标8、目标9、目标10、目标12、目标17划入经济领域，绿色部分表示AI扮演积极角色，橘黄色部分表示AI扮演消极角色。
在经济领域中有42项细分目标（占比达82%）可以从人工智能中获益，而有20个目标（占比30%）会被抑制。现有文献表明，若未来经济过度依赖于数据分析，则发达国家与中低收入国家的经济差距日益增大，引发新的不平等，严重影响目标8（打造持久、包容和可持续的经济增长）、目标9（基础设施与工业化）以及目标10（减少国家间的不平等）的实现。以国家内部的不平等为例。上世纪90年代通用、福特和克莱斯勒公司与苹果、谷歌和脸书公司的员工数几乎相等，但2014年后者人数在大幅降低的同时，股票市值却增加30倍，这都因为更多低技能工作被技术取代。
四、人工智能在环境领域的影响
注：图6将目标13、目标14、目标15划入环境领域，绿色部分表示AI扮演积极角色，橘黄色部分表示AI扮演消极角色。
在环境领域中有25项细分目标（占比达93%）可以从人工智能中获益。用以持续改善生态系统。例如人工智能可以通过大规模数据分析来制定出统一协调的联合环保行动。就目标13应对气候变化而言，有证据表明人工智能的进步将帮助人们加深对气候变化的理解，促进对气候变化影响的建模工作。此外，人工智能也将提升低碳能源系统和高度集成的可再生能源系统效率，满足气候变化所需。
人工智能还可增强应对气候变化的早期预警能力，智能化手段可以强化各国抵御和适应气候相关自然灾害的能力。就防治荒漠化、恢复破坏植被而言，利用神经网络等相关技术，可以提高卫星图像识别速率，及时提供荒漠化蔓延态势，为后续绿色治理提供帮助。
五、证据之间的关联度评估
整体上看，在全部169个细分目标中，AI能对134项产生积极促进作用，占比高达79%。对59个具体目标产生阻碍作用，占比达35%。积极影响远大于消极影响。这可能是因为AI研究通常涉及定量分析，从而使结果偏向积极作用。
然而，当进一步审慎衡量证据的适当性，排除测量误差后，会发现在社会领域，AI促进作用由82%降低到77%，降幅达5%。AI抑制作用由38%降低到25%，降幅达到13%，由此说明证据的适当性对AI负面作用的影响更大。在经济领域，AI促进作用由70%降低到55%，AI抑制作用由33%降低到23%，分别降低15%与10%。证据的适当性对AI促进作用的降低幅度更大。很大程度上是基于就业政策等社会因素考虑，但总体而言，AI对经济产生的长期正面影响并未被现有统计方法与实验模型所准确衡量。在环境领域，AI积极作用由93%降低到85%，AI抑制作用由30%降低到12%。分别降低8%与18%，也表明证据的适当性对AI负面作用的降低幅度更大。
上述规律表明，尽管有迹象表明人工智能对三大领域有一定的负面影响，但却未有强有力的确凿证据出现，也未有专门的分析工具来论证。
六、在可持续发展议题下，AI研究面临的诸多挑战
1.既有研究数据和模型过于理想化
尽管研究表明，人工智能可扮演积极角色，但现有研究多基于有限的数据集或分析模型。研究者在条件受控的实验室环境中进行模拟，采用的数据多为针对特定环境量身定做后的。一旦从更广泛的时间和空间维度衡量AI对现实世界的影响时，随着AI之外的其他社会因素的不断变化，上述研究结果的参考价值会出现不同程度的下降。
2.人与机器算法的公正性面临评估空白
目前理论研究未从人与机器两个方面确保AI技术的公平性。一是人内在的自利倾向导致更多地发布积极结果。二是挖掘AI的负面作用需要长期研究，需要额外评估算法公平性对环境施加的长期影响。
3.研究多集中于科研资源丰富地区
现有促进可持续发展的人工智能应用趋向于研究资源丰富地区。例如促进农耕自动化智能化、提高粮食生产的实验多在发达地区进行，尚未广泛地在贫困地区实践。久而久之，这种结构性区域不平等会加剧贫困地区与技术发达地区之间的差距，减损全球可持续发展目标的可持续性。
4.优先研究有资金支持的项目
可持续发展项目并非都有足够资金支持。如果事前预计某个可持续发展领域的AI正面效应不高，则相关的应用项目不会被优先资金支持。若不加以控制，AI研究将逐步偏向于资金丰厚的研究领域，大大减少对欠发达地区的实证研究。
七、打造可持续人工智能的建议
1.推进人工智能算法问责立法，将道德约束制度化。鉴于人和智能机器之间交互的潜在复杂性，对于AI产品尤其是危险性较大的自动化机器，容易出现失控风险。在此基础上又叠加算法偏见等社会问题，继而导致以数据驱动为主的AI会产生群体性歧视偏见等问题。因此要强化算法德性，将道德约束代码化、制度化。
2.制定多元的治理原则准则，适应复杂社会变化。鉴于社会的复杂多变和人类语言的抽象表述，单一的抽象化的AI伦理原则、治理准则不再有效。建议制定多元的、分场景的AI治理原则准则，以准确地涵盖不同的可持续发展情形。
3.建立伦理准则达标机制，及时公开既有应用的合规情况。尽管IEEE和欧盟已经出台了AI伦理原则准则，但单纯公布一般性的AI伦理原则，主观设想所有AI应用可以促进所有可持续发展目标实现，而未建立伦理准则达标机制，未及时公开既有产品是否合伦理、合规范，是无法切实地反映出以可持续发展为目标的相关产品与技术的可责性、可信赖程度的。
4.提升决策透明度，打造去中心化的人工智能。由于AI算法内部技术机理较为专业，因此要在设计、开发和使用环节，对决策过程与结果予以解释，包括自动化决策系统的逻辑、意义、设想后果和一般功能。同时不忘提升透明度，及时公开产品技术所使用的数据信息。例如用于训练算法的数据源、管理规则以及如何与通行AI治理准则保持一致。
5.监管需注重人工智能应用与个人隐私安全的平衡。以数据驱动为特征的AI应用的推广与个人隐私安全的保护之间的结构性冲突是显而易见的。如果没有适当的精细化监管，个人产生的海量数据恐增加泄露风险。
6.加强全球合作，携手开发可持续发展的友好型人工智能。以可持续发展为目的的AI是人类幸福之所系，所有国家都应该参与合作对话，确保不让一个人掉队。
地球生态红线
注：图7表示了人工智能技术与环境、个人与政府的互动，较粗的线头表示发展势头较快。
