技术公平性：从算法去偏到结构性反思的种族与技术研究

1. 讲座系列缘起从一次虚拟讨论到系统性知识构建去年十一月我参加了一场由加州大学圣塔芭芭拉分校组织的线上圆桌讨论主题是“反黑人情绪与技术”。纽约大学的媒体研究教授查尔顿·麦克尔温、以及萨菲娅·诺布尔、鲁哈·本杰明、安德烈·布洛克等几位该领域的顶尖学者齐聚一堂。那场讨论非常深入但让我印象最深刻的是最后一个问题“在种族与技术的未来图景中你的愿景是什么”这个问题看似宏大却精准地戳中了当下技术行业的一个核心盲区——我们构建的数字世界是否真的为所有人而建还是在不经意间复制甚至加剧了现实世界中的结构性不平等麦克尔温教授后来回忆正是那次讨论促使他和一群学者开始系统性地思考如何将“种族”这一维度从技术研究的边缘地带推向中心舞台。这并非一时兴起。实际上麦克尔温教授等人早在之前就共同创立了“批判性种族与数字研究中心”致力于研究种族、族裔和身份如何塑造数字技术以及如何被后者塑造。那次圆桌会议像是一个催化剂让“将种族问题纳入技术研究的核心”这一想法变得更加清晰和紧迫。有趣的是这场讨论的听众里有一位微软的高级首席研究经理南希·贝姆。作为互联网研究专家她长期关注种族与技术交叉的议题并坚信这个领域的研究价值不仅限于学术界更应对整个技术产业产生深远影响。她看到了连接学界与业界的巨大潜力。于是一个想法诞生了为什么不创建一个公开的系列讲座邀请这个领域最杰出的思想家系统地分享他们的研究成果为更广泛的受众——无论是技术开发者、产品经理、政策制定者还是刚刚入门的学生——搭建一座理解的桥梁这个想法迅速得到了微软研究院的支持并组建了一个包括麦克尔温、贝姆、汉娜·瓦拉赫等人在内的组织委员会。他们的目标很明确打造一个免费、公开的月度讲座系列涵盖从劳动、公共卫生、基因组学到数字媒体、游戏、软件工程等广阔领域。南希·贝姆将其形容为“你能拥有的最好的研究生入门研讨课或高年级课程”。这个系列就是“种族与技术研究讲座系列”。它不仅仅是一系列讲座更是一次试图为整个行业提供“概念工具箱”的集体努力。2. 核心议题解析技术并非中立它承载着历史与意图当我们谈论“种族与技术”时一个常见的误解是技术本身是中立的问题出在使用者或带有偏见的数据上。然而这个讲座系列的核心前提正是要挑战这种简化论。技术从诞生之初就并非存在于真空中。它的设计、开发、部署和应用都深深嵌入在特定的社会、历史和政治经济脉络中。汉娜·瓦拉赫的研究聚焦机器学习系统中的公平性危害她经常遇到一种情况计算机科学家在系统开发完成后才惊觉其造成了伤害。例如几年前的研究显示商用的性别分类系统对深色皮肤女性的误判率远高于浅色皮肤男性另一个被广泛用于评估患者医疗需求的算法则系统性地低估了黑人患者的病情严重程度导致他们得不到足够的治疗。这些例子揭示的远不止是“数据偏差”或“算法缺陷”。麦克尔温教授在其著作《黑色软件互联网与种族正义从AfroNet到黑人的命也是命》中追溯了一段被主流技术史叙事所掩盖的过往。他发现上世纪60年代的民权运动与计算机革命在时间上交汇但二者的关系错综复杂。一方面技术曾被用作监控、遏制和限制黑人社区文化、经济和政治力量的工具例如纽约警察局长达数十年与IBM合作开发基于肤色特征的监控技术另一方面黑人企业家、活动家们也一直在夺取并创新这些技术用以提升社群认同、组织动员并为种族正义而战。这里的关键在于“意图性”和“基础设施”。我们不仅要关注技术如何“无意中”变得不公平更要识别和承认那些“有意的”、植根于历史的选择这些选择共同构建了一个技术基础设施。这个基础设施用麦克尔温的话说在生产“利益与危害”的分配上常常是“反黑人、反亚裔、反原住民”的。技术可以成为固化现有社会不公的“硬编码”而认识到这一点是我们思考如何改变它的第一步。讲座系列的组织委员会在命名时曾对是否使用“种族”一词有过深思熟虑。他们不想让“种族”这个社会建构的概念被过度本质化。但最终他们决定直面这个词因为尽管它在生物学上毫无根据但作为一种强大的社会分类体系它实实在在地影响着每个人的生活。回避这个词或用“偏差”来模糊地替代“种族主义”无助于触及问题的核心。2.1 超越“去偏见”从技术修复到结构性反思当前技术行业应对公平性问题的主流话语常常围绕“去偏”debiasing展开去偏数据、去偏算法、去偏模型。这固然重要但麦克尔温犀利地指出这仍然没有真正触及、更不用说改变一个根本性问题——问题不仅仅是关于“偏差”而是关于“种族”本身以及与之交织的权力结构。当我们只谈“去偏”我们可能仍在一种技术中心主义的框架内打转试图用技术方案解决一个本质上是社会政治的问题。这就像只修补墙面裂缝而不处理地基的沉降。讲座系列的意义在于它提供了一套不同的“语言”和“透镜”。它帮助我们从“这个模型哪里不公正”的技术性排查转向“这项技术服务于谁的利益它继承了怎样的历史关系它可能如何重塑现有的种族化权力动态”等更根本的追问。例如在讨论面部识别技术时不仅要看它的错误率在不同人口群体间的差异更要问谁在部署这项技术用于何种场景是手机解锁还是街头监控这种部署与历史上对特定群体的监控实践有何关联它赋予了谁“看”的权力又剥夺了谁的隐私和自主权这种思考范式的转变是将种族分析从“事后补救”环节前置到技术构思、设计、开发和政策制定的全过程中。3. 赋能与抵抗的另一面技术作为文化表达与欢乐的源泉如果讲座系列只停留在揭露危害那将是不完整的甚至可能陷入一种悲情叙事。事实上这个领域同样充满活力与创造力它精彩地展示了被边缘化的群体如何挪用、改造技术以此作为文化表达、社群构建和争取赋能的强大工具。这正是南希·贝姆所强调的在思考如何改变制造伤害的技术的同时我们也要思考如何创造能带来愉悦、欢乐并允许人们按照自身文化信念进行表达和连接的技术。安德烈·布洛克教授的研究就是一个绝佳范例。他深入探讨了“欢乐”的概念认为纯粹以抵抗压迫为动机的生活是不完整的必须为梦想、舞蹈、哭泣和感受欢乐留出空间。他的研究展示了推特尤其是“黑人推特”如何成为这种欢乐和戏谑表达的出口。这种戏谑性不仅是文化活力的体现更成为像“黑人的命也是命”这样的社会运动的燃料帮助人们应对生活中“不有趣”的部分。在他的获奖著作《分布式黑人性非裔美国人网络文化》中他详细阐释了数字空间如何成为黑人想象力、黑人未来和黑人欢乐得以滋长和规范化的新阵地。这种视角至关重要。它打破了将少数族裔用户仅仅视为“受害者”或“问题”的刻板印象转而将他们视为活跃的、具有文化创造力的数字公民。技术在这些社群手中可以是庆祝身份、传承文化、组织互助、进行艺术创作和政治表达的舞台。例如原住民社群利用社交媒体保护并传播濒危语言拉丁裔创作者通过短视频平台发展出独特的文化美学和叙事风格。这些实践告诉我们一个真正包容的技术未来其蓝图可能恰恰蕴藏在那些被主流技术设计所忽视的社群创新之中。麦克尔温教授由此展望能否想象一个不是以“白人性”为默认基准而是围绕黑人、原住民、拉丁裔等群体经验和需求展开的技术未来这要求我们从概念上彻底重构对技术的思考方式。3.1 从学术到产业构建跨领域的对话与实践网络“种族与技术”讲座系列的一个明确目标是推动该领域从一个相对小众的学术话题发展成为横跨学术界、技术产业、生物医学、公共政策、计算机科学等所有学科的核心讨论组成部分。这不是要建立一个孤立的“专业”而是要将相关的思想、研究者和实践者编织进每个领域的肌理之中。这意味着在计算机科学系的课程中伦理课不应只是附加章节而应将种族、公平的分析贯穿于算法、数据库、人机交互等核心课程在产品经理的培训中用户研究必须包含对结构性不平等的敏感度而不仅仅是人口统计学标签在公司的技术伦理审查流程中需要有熟悉种族批判理论的专家参与。组织委员会期望参与讲座的观众会获得多元的体验有些话题会引起强烈共鸣有些则可能彻底颠覆他们原有的认知。这个过程可能会伴随不适感尤其是当人们直面那些此前被隐藏的现实时。因此他们鼓励参与者带着谦逊和开放的心态加入讨论。这种对话本身就是一种实践它要求技术从业者走出纯粹的工具理性开始审视自身工作所嵌入的价值体系。对于技术公司而言这个领域提供了无比丰富的教益它关乎如何避免造成伤害更关乎如何创造真正服务于人类多样性的产品和服务。改变始于认知而认知需要深度、系统且持续的知识输入。这个讲座系列正是为此提供的一个宝贵入口。4. 迈向行动给技术从业者的初步路线图对于身处技术行业希望有所作为但不知从何开始的个人或团队基于讲座系列所启发的思路我们可以勾勒出一些切实可行的起点。这并非一份详尽的清单而是一个行动框架。4.1 个人层面培养批判性素养与同理心首先是自我教育。主动去学习技术的社会历史维度。这不仅仅是读几篇关于算法偏差的新闻而是去理解像“监控制度”、“技术种族主义”、“数字红lining”等概念的历史根源。可以跟随讲座系列中各位学者的著作如鲁哈·本杰明的《追逐科技废除主义者工具与可操作指南》、萨菲娅·诺布尔的《压迫的算法搜索引擎如何强化种族主义》、西蒙娜·布朗的《黑暗物质监控时代的黑人》等。这些阅读能帮助你建立分析技术问题的结构性视角。其次在日常工作中引入“种族影响评估”的思维习惯。在设计一个新功能、选择一个新的数据源、或定义一个成功指标时养成问以下问题的习惯代表性我的用户模型/训练数据/测试用例是否充分涵盖了不同种族、文化背景的群体我是否主动识别并纳入了那些可能被边缘化的声音历史脉络我试图解决的问题或我使用的数据类别如邮政编码、姓名、语言是否与历史上的种族不平等或歧视性政策存在关联例如用邮政编码预测信用风险可能复制历史上的住房歧视“红lining”模式。权力动态这项技术将如何分配“可见性”或“便利性”它是否可能让某些群体通常是已享有特权的群体更容易获取资源或服务同时让另一些群体更易受到监控或限制文化适配性我的设计隐喻、交互模式、视觉语言是否默认假设了某种特定的文化规范如个人主义、时间观念、沟通方式这是否可能对其他文化背景的用户造成使用障碍或冒犯4.2 团队与组织层面推动结构性改变个人的意识是基础但系统性改变需要组织层面的承诺和流程再造。多元化团队是起点而非终点组建多元化的团队至关重要但这只是第一步。关键在于创造一种心理安全的环境让不同背景的成员能够放心地提出关于公平、伦理和潜在危害的担忧而不必担心被边缘化或被视为“制造麻烦”。团队领导需要主动征求和重视这些观点。将公平性纳入开发生命周期在产品或项目管理的核心流程中嵌入公平性审查节点。例如概念阶段进行初步的“公平性影响筛查”识别潜在的高风险领域。设计阶段开展包容性设计研讨会邀请来自目标多样性用户群体的代表参与。数据阶段实施严格的数据审计记录数据的收集来源、可能的偏差并评估用于标注数据的人力劳动条件这本身可能涉及种族化、性别化的劳动剥削。开发与测试阶段超越简单的“人口统计平价”测试进行针对边缘化群体的压力测试和场景测试。部署与监控阶段建立持续的公平性监控机制跟踪模型在生产环境中的表现差异并制定明确的补救和回滚预案。重新定义“成功”挑战那些可能隐含偏见的成功指标。例如一味追求“用户增长”或“参与度最大化”可能导致平台放大极端和分裂性内容这往往对不同种族社群产生不成比例的影响。需要考虑纳入“社群健康”、“跨群体同理心”、“减少伤害报告”等更复杂的福祉指标。支持跨职能对话鼓励工程师、产品经理、设计师、法务、政策、伦理学家以及来自受影响社群的外部顾问进行定期、深入的对话。打破技术决策与社会科学洞察之间的壁垒。4.3 长期承诺支持研究、教育与问责技术公司可以更有力地支持“种族与技术”领域的学术研究提供资金、数据和访问权限在符合伦理的前提下并与学者合作解决现实世界的问题。同时在公司内部建立持续的培训项目不仅仅是“无意识偏见”培训而是深入的技术伦理、批判性种族理论与数字研究课程。最重要的是建立透明的问责机制。公开公司在公平性、包容性和伦理方面的目标、进展与挑战。当出现问题时进行彻底的调查并公开结果说明根本原因和采取的纠正措施。将种族公平作为领导层绩效考核的核心指标之一。通往一个更公平的技术未来的道路漫长且复杂它要求我们同时具备揭露危害的勇气、承认历史的诚实、欣赏多元创造的智慧以及进行结构性改革的决心。“种族与技术研究讲座系列”提供的正是这样一套多维度的透镜和工具。它邀请我们所有人——无论身处何种岗位——开始更深入、更系统地思考我们建造的数字世界究竟为谁而建并激发我们想象和创造另一个世界的可能性。正如麦克尔温教授所说我们拥有去实现我们所设想之未来的力量而这一切始于一场真诚、谦卑且坚持不懈的对话。