女性主义、后殖民与不平等的技术

📝 技术偏差很少只表现为敌意设计。更常见的机制是，某些身体被当作默认用户，某些经验被排除在训练数据和测试环境之外，某些地区只以原料、廉价劳动或“部署场景”进入创新体系。女性主义与后殖民 STS 研究知识位置、历史权力和设计程序如何决定何种问题可见，同时拒绝把任何身份位置自动等同于更正确的知识。

知识从何处出发

🏷️ 女性主义科学技术研究（feminist science and technology studies）分析性别、种族、阶级、残障与殖民历史如何进入知识生产和技术设计。它既研究参与者构成，也研究问题选择、概念分类、实验对象、数据集、劳动分工和使用脚本。人数代表性只是其中一项，不能替代对制度和技术内容的分析。

🔍 传统客观性常把可靠知识想象为摆脱身体和社会位置后的“无地点观看”。女性主义认识论提出相反问题：研究者总要从特定仪器、训练、机构和生活经验出发，隐藏位置不会消除偏差，只会让占主导的位置显得普遍。提高客观性的路径不是取消视角，而是识别视角的边界，让不同位置能够提出反证。

🌍 这一问题在技术系统中尤其具体。语音系统需要决定哪些口音进入训练数据，医疗设备需要选择校准样本，建筑规范需要设定“典型身体”，招聘模型需要从历史记录中学习“成功”。每项选择都可能具有合理工程理由，也都可能把过去的排除转化为未来的性能差异。

这些传统共享一个方法论要求：把“谁被遗漏”推进到“遗漏如何发生”。偏差可能来自样本不足，也可能来自错误目标、标签历史、商业模式、维护缺口或不平等的申诉能力。只修补数据代表性，无法解决所有层次的问题。

Haraway：情境知识与有责任的客观性

Donna Haraway（唐娜·哈拉维，生于 1944 年）在 1988 年论文《情境知识》中批评“上帝视角”：观察者仿佛能够看见一切，却不必说明自身位置和工具。她提出情境知识（situated knowledges），强调所有视觉和知识都由身体、仪器、语言与权力关系中介。局部性不是知识失败，而是知识能够接受责任的条件。

Haraway 并未主张真理只是立场表达。她反对相对主义与全知视角这两个镜像极端：前者声称所有位置都不可比较，后者把某一位置伪装成无位置。两者都逃避对证据链和观看条件的说明。她所说的“更强客观性”要求研究者交代对象如何被构成、视野何处受限、与研究对象存在何种关系，以及结论可以被谁挑战。

情境知识还改变了“被研究对象”的地位。对象不是等待分类的惰性材料，患者、使用者、动物、生态系统和技术装置都会对研究安排产生抵抗。把这种抵抗纳入知识生产，能够防止研究者把自身分类当作对象的全部现实。责任因而不仅是善意，而是让知识关系可追踪、可回应。

这一框架的实践含义包括分层报告性能、记录数据来源、说明不适用人群和邀请受影响者参与问题定义。它不要求每项研究囊括所有位置，而要求局部结论不冒充无限普遍，并为跨位置检验留下接口。

Harding：立场不是身份的自动属性

Sandra Harding（桑德拉·哈丁，生于 1935 年）提出立场理论（standpoint theory）与“强客观性”。社会位置会影响日常需要解释的问题：处于制度边缘者往往既要理解自身生活，也要理解支配机构的规则，因此可能看见主导群体无需注意的矛盾。研究若只从管理者、专业人员或标准用户出发，会系统遗漏这些矛盾。

然而，社会位置与认识立场不能直接画等号。身份是一种结构位置，立场则是通过集体反思、概念工作、经验检验和政治讨论形成的认识成就。同一群体内部存在阶级、年龄、残障和职业差异，个人经验也可能复制主导偏见。边缘位置能够提供发现问题的资源，却不提供免于证据审查的特权。

这一限制对技术研究非常重要。邀请一位群体成员加入团队，不能保证设计已经代表该群体；要求个人代表整个群体，还会增加象征性负担。较可靠的做法是建立多来源证据：让经验叙述、定量差异、技术测试、历史分析和群体内部争论相互校正。认识优势来自能够揭露被忽略机制，而不是来自身份标签本身。

立场理论的价值在于扩展可检验的问题集合。若某项设备在标准测试中表现合格，却被一部分使用者持续报告失效，这些报告不是自动证明设备有缺陷，但构成重新设计测试的充分理由。制度能否把异常经验转化为正式证据，是强客观性的实际考验。

Wajcman：性别与技术相互塑造

Judy Wajcman（朱迪·瓦伊克曼，生于 1950 年）的女性主义技术科学反对两种单向解释。技术决定论把技术当作外部力量，仿佛机器进入社会后才对性别产生影响；社会决定论则把技术当作既有权力的直接镜像，忽略材料性能和设计选择的相对开放性。Wajcman 强调，性别关系塑造技术的设计与职业文化，技术又重组劳动、身体和身份。

技术职业长期被编码为男性化领域，不仅因为参与人数差异，也因为“真正技术”的定义偏向机器、软件和军事工业，而护理、维护、文书和家庭技术被视为低技能。技能分类影响工资和专业地位，也影响哪些创新进入历史。把使用、修理和照护纳入技术分析，会显示大型系统依赖大量被低估的劳动。

技术物也包含使用者脚本：设计者预期谁会使用、具有什么身体和资源、在何种环境中操作。脚本体现在把手高度、默认头像、语音音域、电池维护和隐私设置中。使用者可以拒绝或改造脚本，但偏离默认者通常承担额外学习、购买和故障成本。

Wajcman 也警惕把女性与自然、照护或和平技术本质化。增加女性工程师并不必然产生不同技术，男性也并非共享单一利益。关键问题是组织如何定义能力、成功和可接受风险，以及参与者是否有权改变问题而非只优化既定方案。

后殖民计算：设计地点不是世界中心

后殖民计算（postcolonial computing）由 Lilly Irani、Paul Dourish、Kavita Philip 等研究者系统提出，用后殖民理论分析计算设计的地理与历史位置。其批评对象不是跨地区技术本身，而是把某些地区视为创新中心、把其他地区视为落后用户、廉价劳动力或数据来源的单向叙事。

许多发展项目把技术缺口解释为设备或信息不足，随后输入预制方案。实际部署却需要电力、维修、语言适配、组织信任、性别化劳动和地方制度。设备在试点中可运行，不表示能在维护预算结束后持续。所谓“最后一公里”常不是次要实施问题，而是揭示最初的问题定义忽略了社会关系。

后殖民计算强调生成性摩擦：设计者不应把地方差异只当作需要消除的阻力，而应让差异改变技术目标和知识权威。当地参与者不只是提供需求访谈，也应能决定哪些问题值得解决、何种失败可以接受、数据应由谁控制。共同设计若只在界面颜色和措辞上征求意见，核心商业模式和基础设施仍不开放，就只是有限本地化。

这一取向也需要避免“地方浪漫主义”。地方精英可能排除弱势成员，传统实践也可能造成伤害，全球标准有时能支持安全和权利。后殖民分析的任务是比较不同知识主张的证据和权力条件，而不是因其来源不同预先判定真伪。

Noble 与 Benjamin：算法如何被种族化

Safiya Umoja Noble（萨菲娅·乌莫贾·诺布尔，生于 1970 年）在《压迫的算法》（2018）中研究商业搜索引擎如何把排名、广告和社会刻板印象结合。搜索结果不是对互联网内容的中性镜像；平台通过索引、相关性模型、点击反馈和商业竞价决定哪些内容先被看见。技术系统能够在没有显式种族规则的情况下复制贬损性表征。

Ruha Benjamin（鲁哈·本杰明，生于 1978 年）用新吉姆代码（New Jim Code）描述以进步、中立或效率语言包装、却再生产种族不平等的技术安排。种族化并不要求代码直接读取种族字段。邮政编码、消费记录、姓名、就医地点和社交网络都可能成为代理变量；历史标签还会把过去的执法、招聘或信贷决定当作客观结果学习。

算法种族化至少有四种机制。第一，训练数据对不同群体的覆盖和质量不均。第二，标签记录制度历史，而非待预测的自然事实。第三，优化目标把机构利益设为成功标准。第四，错误成本在群体间分布不均，而总体准确率遮蔽差异。修复方法必须对应机制，不能用增加样本解决错误目标，也不能用删除敏感字段消除代理效应。

将算法称为种族化，不等于把种族理解为固定生物变量。许多研究使用社会分类来测量差异，是因为差异反映了不平等暴露、数据质量和制度处理。分类本身粗糙且历史变化，分析应说明使用目的，避免把群体平均差异重新自然化。

设计正义：从代表性走向决策权

Sasha Costanza-Chock（萨沙·科斯坦萨-肖克）的设计正义（design justice）把设计视为利益、风险和决策权的分配过程。传统“以用户为中心”设计可以改善易用性，却常由机构预先决定谁是用户、目标是什么以及成功如何测量。设计正义要求受影响社群参与问题定义，并优先考虑长期承受结构性伤害者。

参与不只是一场工作坊。真正的决策权包括拒绝项目、改变预算、控制数据、选择维护方式和评价退出后果。参与者的时间与知识需要补偿，意见冲突也要有明确程序。若机构只收集故事而不开放关键约束，参与会成为合法性装饰。

设计正义还把维护和修复置于创新之前。新应用的发布容易获得信用，长期数据清理、无障碍适配、人工客服和错误补偿却常被视为成本。对高风险系统而言，能够稳定申诉和纠错可能比增加预测精度更重要。技术评价因而应包括谁能获得服务、谁承担失败、谁有能力退出，以及系统停用后留下什么。

可核查案例一：Gender Shades 的交叉群体审计

Joy Buolamwini（乔伊·布奥拉姆维尼）与 Timnit Gebru（蒂姆尼特·格布鲁）在 2018 年发表 Gender Shades 研究，审计三种商业性别分类系统。她们建立肤色和性别较平衡的 Pilot Parliaments Benchmark，以 Fitzpatrick skin type 近似划分较浅与较深肤色，并比较交叉群体性能。

结果显示，三套系统在较浅肤色男性上的错误率最低，约为 0% 至 0.8%；在较深肤色女性上的错误率最高，约为 20.8% 至 34.7%。总体准确率会掩盖这种差距，因为样本构成和群体规模决定平均值。研究的关键贡献不是宣布某种模型本质歧视，而是展示交叉分层审计如何发现单独按性别或肤色汇总时不明显的最差表现。

案例也显示审计指标的边界。论文评估的是被产品设定为二元类别的性别分类任务，并未证明面部外观能够决定性别身份。Fitzpatrick scale 原用于皮肤对日晒反应，不是完整肤色测量。审计可以揭示产品在自定任务上的不均性能，同时还应追问任务本身是否必要、类别是否正当、部署是否获得同意。

Gender Shades 推动企业改进产品和披露差异，但后续改进不等于治理完成。面部分析若被用于监控或高风险识别，提高各群体准确率可能扩大系统能力而非减少伤害。公平审计必须与用途限制、采购责任和退出权结合。

可核查案例二：脉搏血氧仪与肤色偏差

脉搏血氧仪用不同波长光线估算动脉血氧饱和度，具有无创和快速的优势。算法依赖光吸收模型、设备校准和临床条件；皮肤色素、末梢灌注、运动和传感器位置都可能影响读数。若校准和验证样本未充分覆盖较深肤色，系统误差可能在总体测试中不明显。

Michael Sjoding 等人在 2020 年《New England Journal of Medicine》分析脉搏血氧与同期动脉血气测量。当设备显示氧饱和度为 92% 至 96% 时，实际动脉血氧低于 88% 的“隐匿性低氧血症”在黑人患者测量中约为 11.7%，在白人患者测量中约为 3.6%。这项回顾性研究不能把差异全部归因于黑色素，也不能代表所有设备和临床环境，但它提出了具有直接临床意义的安全信号。

病例分类中的种族变量是社会分类，不是精确肤色测量。用种族差异发现设备问题具有监测价值，却不能把种族当作固定生物机制。后续研究需要直接测量肤色，区分设备型号、灌注状态和疾病严重度，并扩大受控验证。监管要求也应检查校准样本构成和最差群体误差，而非只接受总体平均性能。

这个案例说明，偏差不是纯软件问题。光学原理、传感器硬件、校准数据、临床阈值和工作流程共同决定伤害。单纯要求临床人员“注意偏差”会把系统责任转移给前线；仅改算法又可能受限于硬件。改进需要从器件设计到监管标准的完整链条。

可核查案例三：无障碍设计与“默认身体”

无障碍设计揭示技术系统如何预设身体。楼梯把能够稳定行走设为默认，依赖鼠标的界面把精细手部控制设为默认，无字幕音视频把听觉设为默认。障碍并非只位于个人身体，也产生于身体与环境之间的不匹配。

20 世纪 70 年代美国 Berkeley 的独立生活运动推动路缘坡道建设。坡道首先回应轮椅使用者的通行权，后来也方便推婴儿车者、搬运人员、骑行者和拉行李者。这种“路缘坡道效应”常被用来说明针对被排除群体的设计可以产生广泛收益，但普遍受益不能取代最初的权利理由。若只有多数人也受益时才建设无障碍设施，少数使用者的平等准入仍缺乏稳定基础。

数字无障碍同样不是发布后的附加层。语义化结构、键盘操作、文字替代、字幕、焦点顺序和足够对比度需要在设计早期进入组件和测试。自动检测能发现缺少标签等规则问题，却无法判断替代文本是否有意义、任务是否能由辅助技术完成。残障使用者参与测试不可替代，也不应免费承担持续质量保证。

无障碍设计还展示标准的两面性。统一规范为采购、开发和申诉提供基线，但合规清单可能把最低要求误当成良好体验。不同残障需求有时发生冲突，例如减少动画与保留视觉反馈、简化界面与提供专业控制之间需要情境调节。目标不是找到一种适合所有人的固定界面，而是提供多种可控路径并持续验证。

核心争论与限度

情境知识会不会滑向相对主义

批评者担心，强调位置会使证据评价退化为“各有立场”。如果每个群体都有自己的真理，跨位置争论似乎失去共同标准。Haraway 与 Harding 的回应是，隐藏位置才会使权力免于检查；情境化要求增加而不是减少证据责任，包括说明方法、关系、盲点和可反驳条件。

较稳健的客观性不是用身份裁决真值，而是比较不同位置能否揭示机制、经受反证并支持跨情境干预。边缘经验可以启动问题，却仍需接受群体内部差异、替代解释和独立证据检验。任何位置都不能垄断批评资格。

代表性修补还是结构重设计

代表性取向主张扩大团队和数据多样性。它能发现遗漏案例，提高部分产品性能，也是可操作的近期改革。结构取向则指出，若目标仍是扩大监控、压低劳动成本或把公共问题个体化，更多样的团队可能只是更有效地实现有害目标。

两者并非互斥。代表性是发现问题和分配机会的重要条件，但不充分。结构重设计还要审查问题是否值得技术化、收益和风险如何分配、是否存在非技术替代、受影响者能否拒绝。审计一项系统与决定是否建设该系统是两个不同问题。

全球标准还是地方适配

全球标准能够降低兼容成本，并为安全和无障碍提供最低保障。后殖民批评若把所有普遍标准都视为支配，会忽略跨地区权利工具的价值。相反，把地方适配理解为界面翻译，也会遗漏基础设施、劳动和数据治理差异。

较可行的制度是“共同基线加可争议适配”：核心权利和安全要求不能因地区而降低，具体实现允许地方知识改变设计；适配过程必须包括内部弱势群体，避免由少数地方代表垄断发言。标准还应记录不适用条件，并给替代方案留下认证路径。

审计能发现什么，不能发现什么

分层性能审计适合发现结果差异，数据审计适合追踪覆盖和来源，流程审计适合检查责任链。任何单一审计都无法证明系统公平。群体划分可能过粗，小样本估计不稳，交叉类别迅速增加，部署行为又会改变实验室性能。

审计还可能被机构选择性使用：公布容易改善的准确率，回避用途和商业模式。真正的问责需要审计者获得必要访问权，结果能够触发采购、补救或停用，并保护提出问题的员工与使用者。没有后果机制的透明度容易变成信息堆积。

女性主义与后殖民 STS 自身也面临代表性问题。相关理论多在英语学术机构中形成，概念跨地区传播时可能再次复制中心与边缘。对这一矛盾的回应不是放弃理论，而是让引用、合作、翻译、数据控制和研究经费的分配也成为分析对象。

💭 延伸思考

• 社会位置能够暴露主导模型的盲点，却不自动保证解释正确；研究程序应如何利用位置优势并保留共同证据标准？
• 当公平审计显示各群体性能接近，但技术用途本身具有高监控风险时，性能公平在伦理评价中应占多大权重？
• 全球无障碍标准提供最低保障，地方适配则回应实际环境；两者冲突时，谁有权界定不可降低的核心要求？
• 参与式设计若受预算、商业模式和法律目标预先约束，哪些决策权必须真正开放，参与才不只是咨询？
• 医疗设备的群体差异可能来自硬件、校准、临床流程和社会分类；监管审计应如何分配各环节的举证责任？

📚 参考文献

1. Haraway, D. (1988). “Situated Knowledges: The Science Question in Feminism and the Privilege of Partial Perspective.” Feminist Studies, 14(3), 575-599. ——情境知识、局部视角与女性主义客观性的经典论述。
2. Harding, S. (1991). Whose Science? Whose Knowledge? Thinking from Women’s Lives. Cornell University Press. ——立场理论与强客观性的系统阐述。
3. Wajcman, J. (2004). TechnoFeminism. Polity. ——性别关系与技术设计相互塑造的女性主义技术科学框架。
4. Noble, S. U. (2018). Algorithms of Oppression: How Search Engines Reinforce Racism. New York University Press. ——商业搜索、表征政治与算法种族化的代表作。
5. Benjamin, R. (2019). Race After Technology: Abolitionist Tools for the New Jim Code. Polity. ——技术中立叙事与种族不平等再生产的系统分析。
6. Irani, L., Vertesi, J., Dourish, P., Philip, K. & Grinter, R. E. (2010). “Postcolonial Computing: A Lens on Design and Development.” Proceedings of CHI 2010, 1311-1320. ——后殖民计算及跨地区设计权力关系的奠基论文。
7. Costanza-Chock, S. (2020). Design Justice: Community-Led Practices to Build the Worlds We Need. MIT Press. ——社群主导设计、决策权与结构性不平等的实践框架。
8. Buolamwini, J. & Gebru, T. (2018). “Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification.” Proceedings of Machine Learning Research, 81, 77-91. ——商业面部分析系统交叉群体审计的原始研究。
9. Sjoding, M. W., Dickson, R. P., Iwashyna, T. J., Gay, S. E. & Valley, T. S. (2020). “Racial Bias in Pulse Oximetry Measurement.” New England Journal of Medicine, 383(25), 2477-2478. ——脉搏血氧仪隐匿性低氧血症群体差异的临床证据。