联合国妇女署：人工智能正在复制和放大性别偏见

妇女署呼吁将性别平等以及妇女和女童的权利、经历和声音纳入人工智能开发、部署和治理的全过程。

性别偏见在人工智能系统中广泛存在

妇女署援引一项针对133个人工智能系统的研究指出，44%的系统存在性别偏见，26%的系统同时存在性别和种族偏见。

妇女署表示，随着生成式人工智能广泛应用于营销和传播领域，有关谁能被看见、如何被呈现以及谁的故事被讲述的决定，正越来越多地由人工智能系统作出，而这些过程往往缺乏人工审核和性别视角。

研究发现，大型语言模型会系统性地将女性与“家庭”“孩子”等角色联系在一起，而将男性与“商业”“高管”“薪水”和“职业”等概念联系起来。

当被要求补全涉及性别的句子时，约20%的大型语言模型回应表现出性别歧视或厌女倾向，包括将女性描绘为性对象或男性的附属品。

妇女署指出，这些偏见并非技术故障，而是基于长期存在的性别不平等数据训练所产生的结果。

与此同时，在接受评估的138个国家中，仅有24个国家在国家人工智能战略中提及性别问题，只有18个国家纳入了实质性的性别响应措施。

人工智能加剧针对妇女和女童的网络暴力

妇女署表示，妇女和女童原本就面临较高的网络暴力风险，而人工智能正在进一步放大这一问题。

在接受调查的女性人权捍卫者、活动家和记者中，近四分之一曾遭受人工智能辅助的网络暴力；12%的人表示个人图像曾被未经同意传播；6%的人曾成为深度伪造或篡改图像、视频的攻击目标；超过四分之一的人收到过未经请求的性骚扰信息。

妇女署指出，随着人工智能生成内容日益普及，用于骚扰、操纵和基于图像实施虐待的工具也在不断扩大规模，而深度伪造已成为最突出的表现形式之一，其受害者主要是妇女和女童。

女性在人工智能领域代表性不足

妇女署表示，女性正被排除在人工智能研发和决策圈之外。

尽管生成式人工智能预计将推动技术密集型行业就业增长，但女性在科学、技术、工程和数学领域以及人工智能行业中的占比仍然偏低，仅占全球人工智能劳动力的30%。

妇女署指出，设计这些系统的人群并不能充分代表这些系统所服务的数十亿人口，这种代表性不足正在加剧现有问题。

与此同时，在人工智能带来的就业转型过程中，女性从事高自动化风险工作的概率几乎是男性的两倍。

妇女署警告，人工智能带来的不平等不仅体现在性别方面，还会与种族、残障状况、社会经济地位和地理位置等因素叠加，使原本处于弱势地位的人群面临更大风险。

包容性人工智能有助于企业发展

妇女署表示，推动包容性人工智能不仅关乎平等，也具有商业价值。

由妇女署召集、行业主导的“破除刻板印象联盟”开展的研究显示，采用包容性广告、避免性别刻板印象的品牌，短期销售额增长3.46%，长期销售额增长16.26%。

这些品牌成为消费者首选品牌的可能性高出62%，定价能力高出54%，客户忠诚度高出15%。

妇女署指出，随着人工智能成为营销和内容制作的重要工具，将包容性原则纳入相关流程的企业将从中受益，而忽视这一问题的企业则可能面临声誉和商业风险。

将性别平等纳入人工智能全生命周期

妇女署呼吁，将性别平等以及妇女和女童的权利与经历纳入人工智能生命周期的每一个阶段，包括开发、部署和治理。

妇女署表示，如果在设计阶段充分考虑安全性并有目的地加以运用，人工智能能够帮助识别刻板印象、扩大代表性并提高可及性。

妇女署指出，实现这一目标需要政府、企业以及人工智能研究和开发机构共同努力，同时吸纳来自不同背景的妇女和女童，以及相关民间社会组织的参与。