平台、算法与人工智能治理

📝 算法治理不能缩减为修正模型，也不能只靠企业发布原则，更不能假定立法写下禁令后风险便会消失。平台排序、自动决策和基础模型由数据、界面、商业目标、组织流程与公共权力共同组成；有效治理必须区分技术控制、公司治理和公共治理，并为审计、申诉、补救与停用建立相互衔接的责任链。

三种治理不是同一件事

🏷️ 平台治理（platform governance）既指平台如何制定并执行内容、账户、交易和数据规则，也指政府、法院、行业组织、劳动者和用户如何约束平台。平台不是单纯传输信息的管道。它通过服务条款、推荐排序、广告系统、接口权限和申诉程序组织可见性与市场机会。

🔍 算法治理（algorithmic governance）关注数据驱动系统如何参与分类、排序、预测和资源分配，以及这些系统如何接受控制。治理对象不只是模型参数，还包括目标定义、训练数据、部署阈值、人工覆盖、采购合同和后果处理。相同模型嵌入不同工作流程，可能产生完全不同的风险。

🌍 人工智能治理（AI governance）把范围进一步扩展到研发能力、算力与数据集中、基础模型供应链、安全测试、知识产权、劳动、竞争和公共风险。它既包含模型层面的可靠性，也包含谁能开发、谁能部署、谁承担外部成本等制度问题。

三层治理需要相互校正。技术措施把原则变成可执行控制，公司制度决定措施是否获得资源和独立性，公共制度处理企业无法自行代表的权利与分配问题。把三者混用会产生责任逃逸：公司可能把价值冲突称为技术误差，监管者可能把政治选择委托给标准组织，工程团队则可能被要求用模型指标解决组织目标本身造成的伤害。

平台治理：规则、排序与基础设施权力

Tarleton Gillespie（塔尔顿·吉莱斯皮，生于 1973 年）把内容审核视为平台的核心活动，而非偶发清理。平台必须定义允许内容、判断语境、执行制裁并处理申诉。即使宣称开放中立，也要通过垃圾信息过滤、账户验证、版权处理和推荐资格持续划线。平台的公共形象常淡化这项劳动，因为承认编辑角色会增加责任期待。

Robert Gorwa（罗伯特·戈尔瓦）将平台治理分为“由平台实施的治理”和“对平台实施的治理”。前者包括私人规则、自动检测和人工审核；后者包括法律监管、行业自律、广告商压力、用户动员和基础设施提供者的约束。两者交织形成多中心秩序，任何单一主体都难以完整控制信息流。

平台权力至少有四个来源。第一是规则权，决定哪些行为被允许。第二是排序权，决定合法内容获得多少注意力。第三是基础设施权，通过身份、支付、云服务或应用接口控制进入条件。第四是程序权，决定谁能申诉、需要提供何种证据以及错误何时得到补救。

规则文本只是治理的一部分。相同条款可能因检测能力、语言资源和审核配额而执行不均；自动系统提高处理规模，却会遗漏语境；人工审核能够解释语境，却承受时间压力和心理负担。治理评价必须检查从规则制定到实际执行的完整链条。

推荐系统：从选择内容到塑造选择环境

推荐系统（recommender systems）根据用户、内容和情境信号预测相关性，并决定信息或商品的排序。常见方法包括协同过滤、内容特征模型和多阶段学习排序。大型平台通常先从海量候选中召回一小部分，再进行精排、去重、安全过滤和业务规则调整。最终列表不是单一算法直接输出，而是多目标系统的结果。

推荐目标从来不只是“用户喜欢什么”。点击、观看时长、购买、满意度、内容多样性、安全和创作者生态可能同时进入优化。可测代理变量容易支配难测目标：观看时长可即时记录，长期福祉和公共讨论质量却难以观测。若组织只奖励短期参与，工程团队即使意识到长期风险，也缺少稳定的优化信号。

推荐会形成反馈回路。获得曝光的内容更容易得到互动，互动又被模型当作偏好证据；新内容、少数兴趣和缺少历史记录的创作者因此处于“冷启动”劣势。用户行为也不是预先固定偏好的透明表达，界面位置、默认播放和社交线索会改变行为。系统既预测选择，也构造选择环境。

推荐治理不能只要求公开源代码。完整代码既难以被公众理解，也可能暴露安全与商业信息；模型还会持续更新。更有用的透明度包括目标说明、主要信号类别、用户控制、分层影响数据、研究者访问和可重复的系统测试。透明度应服务具体问责任务，而不是用信息数量代替可理解性。

算法审计：审什么、由谁审、后果是什么

算法审计（algorithmic audit）是对自动化系统的设计、性能、治理和社会影响进行系统检查。审计对象可以是数据、模型、接口、组织流程或实际结果。只测模型准确率属于模型审计，不能代表完整系统审计；只核对制度文件属于合规审计，也不能证明控制在部署中有效。

Inioluwa Deborah Raji（伊尼奥卢瓦·德博拉·拉吉）等人提出端到端内部审计框架，把审计嵌入产品生命周期：在开发前界定价值和风险，在建模阶段记录数据与假设，在部署前进行测试，在上线后持续监测并追踪事件。其关键不是增加一份检查表，而是设置审计触发点、独立复核者和能够阻止发布的权限。

审计可分为内部、外部和监管审计。内部审计能获得最多系统信息并及时修改，却受组织利益和汇报关系制约；外部研究者较独立，但常只能通过公开接口推断；监管审计可强制获取资料，却需要专业能力和法律权限。成熟制度会组合三者，而不是把独立性与访问权的冲突留给单一审计者。

审计的政治问题是后果。报告若只能提出建议，组织可以选择修复低成本问题并忽略商业模式冲突。有效审计需要规定何种发现触发暂停、通知、补偿、重新训练或停用，也要保护审计独立性。审计不是一次认证，因为数据分布、用户策略和产品目标都会变化。

可解释性：说明模型还是支持行动

可解释性（explainability）至少包含三种不同目标。技术目标是理解模型如何使用特征；组织目标是帮助开发者发现错误和漂移；公共目标是让受影响者理解决定、提出异议并获得补救。一个方法可能满足其中一项，却不满足其他两项。

全局解释概括模型总体结构，局部解释说明某次输出附近哪些特征影响较大，反事实解释说明改变哪些输入可能改变结果。事后解释工具通常用近似模型描述复杂系统，因此解释可能稳定性不足，也可能把相关性包装成原因。内在可解释模型更透明，却不保证目标和数据合理。

解释还需要适配接收者。工程师需要故障机制，监管者需要控制证据，申请人需要决定理由和申诉路径。向申请人列出几十个特征权重并不构成有意义解释；提供“提高收入即可改变结果”之类不可行动建议，也不能实现程序正义。可争议性（contestability）比信息披露更强，它要求能够纠正数据、挑战规则并由有权限者重新决定。

可解释性与商业秘密、安全和隐私存在张力，但不能因此全部豁免。分层披露可以让不同主体获得完成职责所需的信息：公众获得系统用途和权利说明，独立审计者在保密条件下检查模型，监管者获得完整记录。关键是秘密主张不能阻止具有法律权限的审查。

公平不可能结果：指标冲突不是政治中立

算法公平常用多种统计标准。校准要求同一风险分数在不同群体中对应相近的实际发生率；假阳性率均等要求实际未发生结果者被错误判为高风险的比例相近；假阴性率均等则要求实际发生结果者被错误判为低风险的比例相近。每个标准保护不同利益。

Jon Kleinberg、Sendhil Mullainathan 与 Manish Raghavan，以及 Alexandra Chouldechova 分别证明：当群体基础发生率不同且预测不完美时，校准与两类错误率平衡通常不能同时满足。这个结果有时被泛化成“公平不可能”，但其条件和范围必须保留。它不是说任何公平改进都徒劳，而是说明无法用一个分数同时兑现所有相互冲突的统计直觉。

选择指标需要回到制度后果。贷款、医疗筛查和刑事风险评估中的假阳性与假阴性含义不同，受影响者承担的成本也不同。基础发生率本身可能反映历史政策和测量过程，不能被当作纯自然参数。技术团队可以呈现权衡，却无权单独决定哪种错误更可接受。

公平指标还会诱发抽象陷阱。把系统边界画在模型输入输出，会遗漏数据由谁产生、决定如何执行以及是否存在申诉。即使统计指标改善，自动化也可能扩大不必要的分类规模。公平评估应先问制度目标是否合法、自动化是否必要，再讨论在可接受系统中如何分配误差。

基础模型：通用能力与责任链延长

Stanford Center for Research on Foundation Models 在 2021 年用基础模型（foundation models）指在广泛数据上训练、能够适配多种下游任务的模型。关键特征不是单一架构，而是“一次训练、多处适配”的基础性。大语言模型、视觉语言模型和其他通用模型可以通过提示、微调或工具连接进入大量应用。

基础性改变了风险结构。上游开发者控制训练数据、模型能力和接口，下游部署者控制领域数据、提示、阈值和人机流程，终端机构决定具体用途。某项伤害可能由上游能力、下游设计和使用情境共同造成。若每一方都把责任推给相邻环节，供应链会形成责任缺口。

基础模型的通用评测不能替代领域验证。基准测试覆盖有限任务，公开得分可能受到训练数据污染，平均能力也无法预测高风险环境中的少数失败。医疗、教育、就业和公共服务部署还需要检查领域有效性、人工监督、数据保护和错误补救。模型能够生成流畅解释，不表示其输出有可靠来源。

风险还包括集中化。训练成本、算力、专有数据和分发渠道可能把关键能力集中于少数企业，下游组织难以独立检查。开源或开放权重可以扩大研究和适配，却也降低某些滥用门槛；封闭接口便于集中控制，却限制外部审计。开放与封闭不是单一风险轴，需要按能力、用途、访问主体和可逆性分别判断。

风险分级与监管工具

风险分级监管依据用途、受影响权利、规模和可逆性配置不同义务。低风险系统可采用一般产品和消费者规则，高风险系统需要数据治理、记录、测试、人类监督和事件报告，某些不可接受用途则直接禁止。分级的优点是把监管资源集中到严重后果，缺点是边界分类可能被规避，通用系统的下游用途又难以预见。

风险不只由模型能力决定。相同面部匹配模型用于个人相册整理与公共场所识别，权利影响不同；相同语言模型用于草拟娱乐文本与决定福利资格，错误成本不同。风险评估至少应考虑用途、受影响群体、决定约束力、部署规模、可申诉性和替代路径。

常见监管工具包括事前影响评估、强制技术文档、独立审计、事件通报、市场监督、产品责任、公共采购条件、研究者访问和集体救济。软性伦理原则适合形成共同语言，却缺少执行后果；详细技术规则可执行，却可能快速过时。法律通常应规定目标、权利和责任，再由可审查标准提供更新较快的技术细节。

可核查案例一：欧盟 AI Act 的风险治理

《欧盟人工智能法》（Regulation (EU) 2024/1689）于 2024 年通过，并于 2024 年 8 月 1 日生效。它采用以用途和风险为核心的监管结构：禁止若干被认为不可接受的实践；对就业、教育、关键服务、执法等特定领域的高风险系统规定严格义务；对某些与人互动、合成内容和情绪或生物特征相关系统规定透明义务；一般低风险应用主要受自愿规范和既有法律约束。

该法还单独处理通用人工智能模型（general-purpose AI models, GPAI）。这一法律类别与学术上的基础模型有重叠，但并不完全相同。提供者需要维护技术文档、向下游提供信息并遵守版权相关义务；具有系统性风险的模型承担更强的评估、风险缓解和事件报告要求。法律试图把责任分配到模型供应链，而不是只约束最终应用。

义务分阶段适用。禁止性规则和 AI literacy 要求自 2025 年 2 月起适用，GPAI 相关规则自 2025 年 8 月起适用，多数条款自 2026 年 8 月起适用，部分嵌入受监管产品的高风险系统获得更长过渡期。分阶段实施给标准、监管能力和企业调整留下时间，也使效果评价必须区分法律文本、正式适用和实际执法。

AI Act 的贡献是建立跨行业最低框架，并把文档、监测和基本权利纳入产品生命周期。其限度包括高风险边界复杂、对协调标准依赖较大、执法资源在成员国间可能不均，以及通用模型下游风险难以前置穷尽。风险分类本身也会成为治理争议：系统落入哪一类，决定了举证和合规成本。

可核查案例二：荷兰 SyRI 的透明度与比例原则

荷兰政府的 System Risk Indication（SyRI）允许公共机构汇集多类行政数据，以识别社会保障、税务和劳动法领域的潜在违规风险。系统将风险报告交给有关机构进一步调查。政府以防止欺诈和提高检查效率为理由部署该框架，但模型指标和风险计算方式对公众披露有限。

2020 年，District Court of The Hague 判决 SyRI 的法律框架违反《欧洲人权公约》第 8 条所保护的私人生活权。法院没有认定一切数据匹配或风险分析都违法，也没有对模型准确率作技术裁决；核心是法律保障不足，数据处理的侵入性、透明度和防止滥用措施未能达到公平平衡与比例要求。

SyRI 案显示，可解释性不是唯一问题。即使公开模型特征，受影响者仍需知道自己是否被纳入、数据如何纠正、风险信号如何触发调查以及能否获得救济。公共治理关注的不只是预测质量，还包括法律依据、必要性、歧视风险和程序权利。

案件也说明保密会阻碍证据评价。外部研究者难以获得足够信息判断系统效果，政府则以防止规避为由限制披露。适当制度不必公开所有反欺诈规则，但应允许法院和独立监督者获得完整材料，并向公众说明系统范围、权利影响和问责结果。

可核查案例三：美国 COMPAS 与公平指标冲突

COMPAS 是由 Northpointe（后更名 Equivant）开发的风险与需求评估工具，在美国部分刑事司法环节用于辅助判断。2016 年，ProPublica 分析 Broward County 的记录，将预测与两年内再被捕情况比较，报告黑人被告在未再被捕者中更常被错误标为高风险，白人被告在后来再被捕者中更常被错误标为低风险。

具体而言，ProPublica 报告的高风险假阳性率约为黑人被告 44.9%、白人被告 23.5%；低风险假阴性率约为白人被告 47.7%、黑人被告 28.0%。Northpointe 反驳称，不同群体在相同分数上的再犯比例大体相近，即模型具有校准性质。双方使用了不同公平标准。

Chouldechova 的分析说明，当群体再犯基础率不同且预测不完美时，校准与错误率平衡难以同时实现。这个数学关系没有决定法院应选择哪项标准。假阳性会使未再犯者承受更严格处置，假阴性则关系到风险管理；何种错误更严重是法律和伦理判断，不能由模型开发者通过指标默认。

COMPAS 争论还有三个限度。第一，“再被捕”受执法和报告实践影响，不等于完整犯罪行为。第二，工具与法官、量刑指南和地方程序共同作用，不能从分数独立推断最终决定。第三，专有模型限制外部检查，但完全公开公式也不能解决目标标签和制度用途问题。

这个案例没有证明算法必然比人类判断更差，也没有证明校准足以保证公平。正确比较对象应是完整决策制度：纯人工、算法辅助和其他替代方案各自产生何种错误，谁能提出申诉，是否减少不必要拘禁，以及长期反馈如何改变数据。

核心争论与限度

公司自律还是公共规则

公司治理取向强调技术变化快，内部团队最接近系统，灵活准则、红队和产品调整能够迅速响应。过度具体的法律可能冻结方法，也可能给小型创新者造成不成比例负担。公司还可以在法律形成前采用高于最低线的控制。

公共治理取向指出，企业无法独立裁决自身利润与公共权利的冲突。自愿原则缺少统一定义、外部访问和制裁，风险团队的资源也会随商业压力变化。基本权利、竞争秩序和跨企业外部性需要民主授权的规则与法院救济。

较可行的组合是，公共制度规定禁区、权利、举证责任和监督权限，公司建立持续风险管理，技术标准细化测试方法。组合的难点在于防止监管把关键价值选择下放给企业或标准委员会，也防止法律只要求文件而不检查结果。

透明是否必然带来问责

透明支持研究和申诉，却可能泄露隐私、商业秘密或安全措施。更根本的问题是，信息披露不等于行动能力。个人即使收到复杂模型说明，也未必有资源挑战机构；大量报告还可能使关键风险淹没在合规文本中。

问责需要把透明度连接到权限和后果。不同主体获得不同深度的信息，独立机构有权验证，受影响者获得可理解理由和救济，严重发现触发整改或停用。透明是问责基础设施的一部分，不是治理终点。

技术公平还是制度正义

技术公平关注模型在既定任务中的误差分配，能够发现重要伤害。制度正义则追问任务为何存在、标签是否正当、资源是否应由预测分配。二者不能互相替代。完全放弃指标会使差异不可见，只优化指标又会把不公正制度当作固定背景。

公平不可能结果要求公开权衡，但不应被用作不行动的借口。系统可以通过改善数据、降低整体错误、限制用途、增加申诉和改变决策目标减少伤害。某些任务若无法在权利约束下实施，停用也是一种治理结果。

风险分级能否跟上通用模型

用途分级适合处理具体部署，却难以面对通用模型的多用途和能力变化；只按模型规模分级又可能忽略小模型在高权力场景中的严重后果。监管需要同时观察上游能力与下游用途，并要求供应链传递必要信息。

基础模型治理的证据仍在快速形成。基准能力、实际事故、滥用可达性和系统性社会影响使用不同证据尺度，不能合成一个简单风险分数。监管沙盒、事件数据库和分阶段义务可以支持学习，但试验不能豁免基本权利。

算法治理研究自身也有边界。外部研究常受数据访问限制，企业案例难以推广，法律文本与执行效果之间存在时间差。对复杂社会结果作因果归因尤其困难。可靠判断应区分已观察伤害、可推断机制和推测性风险，并根据后果严重性采用不同证据门槛。

💭 延伸思考

• 当推荐系统同时优化用户满意、创作者生态、广告收益与公共安全时，哪些目标可以由公司决定，哪些需要公共程序授权？
• 公平指标在基础发生率不同的条件下发生冲突，制度应通过何种程序选择优先保护的利益，而不是把选择留给技术默认？
• 外部审计需要系统访问权，企业又负有隐私和安全义务；怎样的分层访问与保密制度能够兼顾独立性和风险控制？
• 基础模型的上游提供者与下游部署者共同塑造结果，事故发生时应依据控制能力、可预见性还是收益分配来划分责任？
• 风险分级提高了监管针对性，却也激励机构争取较低类别；哪些持续监测和重新分类机制能够限制这种边界规避？

📚 参考文献

1. Gillespie, T. (2018). Custodians of the Internet: Platforms, Content Moderation, and the Hidden Decisions That Shape Social Media. Yale University Press. ——平台内容审核、规则执行与私人治理劳动的系统研究。
2. Gorwa, R. (2019). “What Is Platform Governance?” Information, Communication & Society, 22(6), 854-871. ——区分平台实施的治理与对平台实施的治理的概念框架。
3. Raji, I. D., Smart, A., White, R. N., Mitchell, M., Gebru, T., Hutchinson, B., Smith-Loud, J., Theron, D. & Barnes, P. (2020). “Closing the AI Accountability Gap: Defining an End-to-End Framework for Internal Algorithmic Auditing.” Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency, 33-44. ——端到端内部算法审计框架及组织问责条件。
4. Kleinberg, J., Mullainathan, S. & Raghavan, M. (2017). “Inherent Trade-Offs in the Fair Determination of Risk Scores.” Proceedings of ITCS 2017, Article 43. ——风险评分中校准与错误率公平冲突的形式化证明。
5. Chouldechova, A. (2017). “Fair Prediction with Disparate Impact: A Study of Bias in Recidivism Prediction Instruments.” Big Data, 5(2), 153-163. ——以再犯预测说明公平指标不兼容条件及 COMPAS 争论。
6. Bommasani, R. et al. (2021). On the Opportunities and Risks of Foundation Models. arXiv:2108.07258. ——基础模型概念、供应链结构与广泛风险的奠基报告。
7. European Union. (2024). “Regulation (EU) 2024/1689 Laying Down Harmonised Rules on Artificial Intelligence.” Official Journal of the European Union. ——欧盟 AI Act 风险分级、GPAI 与治理义务的正式法律文本。
8. District Court of The Hague. (2020). NJCM c.s. v. The State of the Netherlands (SyRI), ECLI:NL:RBDHA:2020:1878. ——SyRI 数据风险系统与私人生活权、透明度和比例原则的判决。
9. Angwin, J., Larson, J., Mattu, S. & Kirchner, L. (2016). “Machine Bias.” ProPublica, May 23, 2016. ——COMPAS 群体错误率差异争论所依据的调查与数据分析。