炒股就看金麒麟分析师研报，权威，专业，及时，全面，助您挖掘潜力主题机会！

（来源：科技行者）

你有没有想过，一个语言模型说出带有性别歧视或种族偏见的话时，问题到底出在哪里？

大多数人会本能地回答：整个模型都有问题，它从海量互联网文本里学会了这些偏见，所以要修就得从头训练，或者做大规模微调，把整个模型重新调一遍。

这个直觉听起来合理，但也意味着一件麻烦事：如果偏见散布在模型的每一个角落，那想要精确清除它，几乎是不可能完成的任务，就像要把混进一大缸水泥里的沙子一粒一粒挑出来。

2026年的这篇论文提出了一个让人意外的答案：偏见不是均匀混在水泥里的沙子，它更像是埋在某几个特定位置的定位器。研究者发现，在30亿参数以下的模型里，处理人口统计学偏见（比如种族、性别、年龄）的神经元数量少到令人吃惊，最极端的情况下只需要清零40个神经元，就能让模型对特定人群的反应发生明显变化，而这40个神经元占整个模型MLP层宽度的比例，只有0.031%。

这篇论文的名字叫《Fairness Pruning》，作者用一种不需要额外训练、在普通消费级显卡上就能跑的方法，把这些"偏见神经元"揪了出来。故事没有那么简单收尾，因为当他们真的动手清零这些神经元时，发生了一件出乎意料的事，模型的偏见表现并没有变得更公平，而是变得不稳定，有时候变好，有时候反而变得更糟。这个"意外"恰恰是这篇论文最值得聊的地方。

为什么找偏见比想象中难

先说说这个领域此前的处境。

对付AI模型的偏见问题，业界大致有三条路子。

第一条路是从源头下手，也就是在训练数据阶段做文章，把带偏见的内容过滤掉，或者用人工生成的"干净"数据去替代。微软的Phi系列模型就是这个思路的代表，用高质量的合成数据训练小模型，理论上偏见会更可控，因为内容是被人为设计出来的。

但这条路有个绕不开的漏洞：生成这些"干净"合成数据的，往往还是另一个大语言模型，而那个模型本身也是从带偏见的数据里训练出来的。相当于把偏见问题从一楼搬到了二楼，问题并没有消失，只是换了个地方藏着。

第二条路是微调和后训练对齐，这也是目前工业界用得最多的方法。但它的问题在于，微调是对模型所有权重同时下手的，它不知道哪些权重管的是偏见，哪些权重管的是模型基本的推理能力和知识储备。结果就是，你想纠正偏见，却可能顺手把模型的其他能力也削弱了，严重的时候甚至会引发"灾难性遗忘"，模型忘记了它原本学到的知识。

第三条路是后处理，在模型生成的表示空间里动手术，不碰权重本身。这类方法里最有名的是INLP。

> INLP（Iterative Nullspace Projection）：一种通过反复投影，从模型内部表示中剔除某个受保护属性（比如性别、种族）方向的技术，目的是让模型看不到这个属性对应的信号。

INLP在分类任务上效果还不错，但用在现代的生成式大语言模型上就显得力不从心，而且它需要做很多次迭代投影，这个过程常常会把和目标属性相关但本不该删的信息也一并删掉，就像你想去掉一杯咖啡里的糖分，结果连咖啡的香味也一起过滤掉了。

还有第四条路，也是这篇论文所在的赛道：机制可解释性。

> 机制可解释性（mechanistic interpretability）：一种试图打开AI模型的"黑箱"，弄清楚内部具体是哪些计算单元在做什么事情的研究方向。

这条路上最出名的武器叫稀疏自编码器。

> 稀疏自编码器（Sparse Autoencoder, SAE）：一种可以把模型内部纠缠在一起的复杂特征拆解开，还原出人类能理解的单一概念的神经网络工具，Anthropic公司用它成功从Claude模型里"揪"出了很多可解释的特征。

SAE很强大，但它有个硬伤：训练一个SAE本身需要相当可观的计算资源，这就把很多资源有限的研究团队挡在门外了。

于是就出现了一个空白地带：介于"大规模粗暴干预"和"精密但昂贵的解剖"之间，缺一种既能精准定位偏见，又不需要额外训练、成本可控的办法。

这篇论文想填的，正是这个空白。

用对比句子找出"会变脸"的神经元

研究者的核心思路其实很朴素：如果一个神经元真的和某种人口统计学偏见有关，那当你把一句话里的某个身份词换掉（比如把"老人"换成"年轻人"，或者把"男人"换成"女人"），这个神经元的反应应该会发生变化。而那些跟偏见毫无关系的神经元，不管你怎么换身份词，它的反应都该是平静如水的。

这个思路的技术名字叫"差分激活"。

> 差分激活（differential activation）：给模型两句几乎完全相同、只有一个人口统计学属性不同的句子，观察同一个神经元对这两句话的反应差异，差异越大，说明这个神经元对这个属性越敏感。

要让这个对比公平，两句话必须严格控制变量：除了那一个身份词，其他部分要完全一样，甚至要保证用同一个分词器切分出来的token数量也完全相等，这样才能保证逐位置比较激活值时是真的"同一个位置"在对比，不会因为句子长度不一致而错位。

研究者为此专门构建了两个数据集，一个英文一个西班牙文，涵盖年龄、性别、外貌、种族/民族、宗教这五大类偏见维度，英文数据集包含70组对比句对，西班牙文的有100组，都已经公开发布在HuggingFace上。

这里有个特别值得说的细节：模型内部的MLP层用的是一种叫GLU的架构。

> GLU（Gated Linear Unit）：一种带"门控"机制的神经网络结构，模型里有三条并行的信息通路，gate_proj像一个可学习的阀门，控制信息能不能通过；up_proj保存的是神经元真正想表达的内容；两者相乘后再经过down_proj，投影回模型主干。这个"相乘"的操作，正是Llama和Salamandra这类模型里SwiGLU激活函数的核心。

研究者选择在down_proj的输入端捕捉信号，因为这个位置汇总了gate和up两路信息相乘之后的最终结果，是最能代表"这个神经元到底对外部输入做了什么反应"的测量点。

这就好比你想知道一个水龙头到底放没放水，最靠谱的做法不是去看水管入口的阀门开没开（那只是控制信号），也不是去看水箱里存了多少水（那只是储备），而是直接看出水口有没有水流出来。down_proj的输入，就是那个"出水口"。如果只看gate_proj或者up_proj，你看到的是分散在模型很多中间层的信号，反而看不清真正流出来的是什么。

把这些差异量化成一个分数，就得到了这篇论文的核心指标。

> BiasScore（偏见分数）：衡量某个神经元对一对对比句子反应差异大小的指标，计算方式是取两个句子在这个神经元上激活均值的绝对差，再对所有对比句对取平均。分数越高，说明这个神经元对该人口统计学属性越敏感。

论文里还提出了一个更综合的分数，叫FairnessPruningScore，它把BiasScore和神经元的"结构重要性"结合起来考虑，避免误删那些既对偏见敏感、又是模型正常运转所必需的神经元。不过在这篇论文实际做的实验里，因为每次只动1到40个神经元，规模足够小，单靠BiasScore筛选出来的神经元干掉后，模型能力几乎没受影响，所以这个更复杂的综合分数在这个规模的实验里并没有真正用上。

偏见到底藏在模型的哪里

用这套方法扫描了Llama-3.2-1B、Llama-3.2-3B和Salamandra-2B这三个模型之后，研究者发现了一个几乎没有例外的规律：不管是哪个模型、哪种语言、哪个偏见类别，down_proj输入端信号最强的那一层，永远是模型的最后一层。

Llama-3.2-1B总共16层，信号峰值出现在第15层（也就是最后一层）；Llama-3.2-3B有28层，峰值在第27层；Salamandra-2B有24层，峰值在第23层。这个规律横跨了30种不同的模型、语言、类别组合，无一例外。

更有意思的是，如果你去看gate_proj或up_proj这两路原始信号，会发现偏见相关的活跃神经元其实分散在很多中间层，比如PhysicalAppearance（外貌相关的偏见）在Llama-3.2-1B里甚至在第4层就达到过峰值。但一旦经过GLU的门控相乘操作，这些分散的信号就被"过滤"并集中挤压到了最后一层。

这个现象让我想起一个筛沙子的场景。假设你有一堆沙子混在很多层筛网里，每层筛网都留下一些颗粒，看起来这些颗粒散落在各处。但如果你在最后加一道更细的筛网，把前面所有层漏下来的颗粒重新汇总一遍再过一次，最终这道筛网底下积累的沙子会远比中间任何一层都多，因为它接收的是所有前面层级信息叠加之后的结果。GLU的门控乘法就扮演了这道"最终筛网"的角色，它把原本分散的信号做了一次聚合放大，让偏见相关的神经元集中显现在最后一层。

如果这个门控相乘的操作不存在，信号会一直分散在12到22个不同的层里，你几乎没法说"偏见主要藏在哪一层"，因为它到处都是，反而增加了定位和干预的难度。

研究者还检查了这些"偏见神经元"在层内的空间分布，会不会是挤在一起的一片区域，这样的话直接砍掉一整块区域岂不是更方便？答案是不会，这些神经元散落在整个层宽度的各个位置，没有形成连续的区块。这就意味着任何"按区域批量删除"的省事做法都行不通，你必须精确定位到每一个具体的神经元索引，一个都不能靠猜。

另一个重要发现是不同偏见类别之间的"电路"重叠程度很低。研究者用Jaccard相似度来衡量两个类别所选出的候选神经元集合有多大程度是重叠的。

> Jaccard相似度：衡量两个集合相似程度的指标，等于两个集合的交集大小除以并集大小，数值在0到1之间，1表示完全相同，0表示完全没有共同元素。

结果显示，在最严格的筛选标准下（只看每层最敏感的前0.1%神经元），不同偏见类别之间的重叠度大多落在0.2到0.32之间，也就是说66%到88%的候选神经元只对一个特定的偏见类别敏感，不会在别的类别里重复出现。性别相关的神经元表现得最"独立"，跟其他任何类别的重叠度都是最低的。

这说明模型内部确实存在专门处理"年龄偏见"和专门处理"性别偏见"的相对独立的小回路，它们各自为战，很少共用同一批神经元。

清零之后：偏见没消失，只是变了个方向

到这一步，故事本该顺理成章地收尾：找到了偏见神经元，清零它们，偏见应该降低，模型能力应该保住，一篇干净利落的论文。

但实际发生的事，比这复杂得多。

研究者选取BiasScore最高的一批神经元（从1个到40个不等），把它们对应的三条权重全部置零，模拟"移除"这个神经元对模型输出的贡献。之后拿标准的偏见测试基准BBQ（英文）和EsBBQ（西班牙文）来评估效果。

> BBQ（Bias Benchmark for Question Answering）：一套专门测试语言模型偏见的问答基准，题目设计成两种情境：一种是"模糊情境"，题目信息不足，正确答案本该是"不知道"，如果模型选了某个刻板印象对应的答案，就说明它在这个情境下会"脑补"偏见；另一种是"消歧情境"，题目信息足够，模型应该给出正确答案而不受偏见影响。EsBBQ是这个基准的西班牙语和加泰罗尼亚语版本。

结果出乎意料。以Llama-3.2-1B为例，8组不同的清零实验里，模糊情境下的偏见分数最大变化幅度只有0.8个百分点，消歧情境下最大变化0.5个百分点，而且8组实验里有6组，模糊情境和消歧情境的偏见分数是朝相反方向变化的：一个降了，另一个反而升了。

这不是随机噪音，这是一个系统性的模式。研究者在Llama-3.2-3B上做了一个更极端的实验，专门针对"宗教"这个偏见类别清零20个神经元，结果消歧情境下的偏见分数从原来的正3.84%（偏向刻板印象）直接翻转成了负1.67%（反而偏向反刻板印象），符号整个反过来了。

这就像你去调一台老式收音机的音量，转到某个刻度以为声音会变小，结果它突然从"太吵"跳到了"反方向的太安静"，中间那个"刚好合适"的点，你根本没抓住，因为你压根不知道旋钮转动的方向意味着什么。

问题的根源，研究者用一个很清晰的比喻讲明白了：BiasScore只衡量了神经元反应的"大小"，没有衡量它的"方向"。一个高分神经元，可能是在把模型的回答往刻板印象方向推，也可能恰恰是在把它往反方向拉回来（起到抑制作用）。两种神经元混在同一批候选名单里，你清零它们的时候，实际上是同时干掉了"放大器"和"调节阀"，最终净效果取决于哪一类神经元在数量或强度上占了上风，这本质上是一场看不清底牌的赌博。

研究者还专门做了一个验证性的小实验，把宗教类别里得分最高、比第二名高出32%的那个单一神经元（位于最后一层第166号位置）单独清零，看它是不是"最关键的那个开关"。结果是几乎没有变化：模糊情境偏见分数只变了0.12个百分点，9个测试提示里有5个生成的文本和干预前一模一样。这说明模型内部存在冗余机制，一个神经元被移除后，其他相关神经元会顶上来补偿它的作用，这些神经元更像是一个团队里的调节员，不是掌控生死的孤胆英雄。

论文里给出了一些具体的生成文本对比，非常直观地展示了这种"双向不稳定"。有个例子是一句关于黑人男子夜间被警察靠近的句子，干预前模型续写的是"我要开枪打你"，干预后变成"我需要搜查一下你"，看起来明显偏见减轻了。但用同一批被清零的神经元处理另一个关于拉丁裔家庭搬进社区的句子时，情况却反过来了：干预前的续写是相对中性的描述，干预后反而冒出了带有种族敌意的表述。同样的干预，同样一批神经元，一个方向变好，另一个方向变坏，这正是"双向去稳定"效应在真实文本生成里的样子。

能力保住了吗：0.031%神经元引发的连锁反应有多大

既然对偏见的净效果这么不可控，那这套方法至少在"保护模型其他能力"这件事上做得怎么样？

答案是相当出色。研究者用五个标准基准来检验模型在清零这几十个神经元之后，语言建模、常识推理、通用知识、跨语言能力有没有受损，包括WikiText（困惑度）、MMLU（57个学科的知识测试）、ARC-Challenge（科学推理）、英文和西班牙文的HellaSwag（常识句子补全）。

结果是，Llama-3.2-1B四组实验总共20个测量点，全部落在97.93%到101.34%的保留率区间，平均保留率高达99.49%。也就是说，即便你把能力保留率的下限设成98%，这些实验也几乎全部达标。

其中HellaSwag（英文和西班牙文两个版本）几乎完全没受影响，保留率稳定在99.37%到100.19%之间，这说明常识推理这种依赖句子整体语义连贯性的能力，跟这几十个被清零的神经元基本不搭边。表现最"敏感"的指标是WikiText的困惑度，虽然所有实验都出现了轻微的困惑度上升（也就是模型的语言流畅性略微变差），但幅度非常小，最大也就从11.99涨到12.12，属于可以忽略的范围。

这个结果的分量在哪里？

如果偏见信息真的散布在模型的每一个角落，那么随便动几十个神经元，都应该像拔掉汽车发动机里随机一颗螺丝一样，多少会伤到点别的功能。但实际情况是，你精确地拔掉0.031%的神经元，也就是13万多个神经元位置里挑出最多40个，模型的知识储备、推理能力、跨语言表现几乎毫发无损。这说明处理"这个人是老人还是年轻人"这种人口统计学信息的电路，和处理"法国的首都是哪里"这种事实知识的电路，在模型内部是可以被物理上分开的两套系统。

这就好比一栋大楼里，专门负责调节室内温度的空调系统和专门负责供电的电路系统，虽然共用同一栋建筑的墙体和地基，但线路是完全独立的两套。你去检修空调管线，只要小心操作，完全不会碰到电路系统，因为它们本来就走的是不同的通道。这篇论文的实验证明，语言模型里存在类似的"分线设计"，偏见处理和通用能力走的是不同的管线，这也是为什么精准干预可行，而不是必须"拉闸大修"整栋楼。

这项研究到底往哪个方向指路

论文最后诚恳地指出了这套方法目前的边界。

BiasScore这个指标本质上是"无符号"的，它只回答"这个神经元反应有多大"，不回答"往哪个方向反应"。这个设计选择其实是有意为之的：研究者用的对比句对是"对称"的，也就是没有预设哪一句更"正确"、哪一句更"带偏见"，两句话地位平等，只是替换了一个身份词。这种设计诚实，但代价就是清零操作本质上是"盲打"，不是精确制导。

论文提出的下一步方向，是构建"不对称"的对比数据集，也就是提前标注好哪一句话是产生偏见回答的，哪一句是产生中性回答的。这样一来，就能计算出带方向的BiasScore，区分出哪些神经元是"放大器"、哪些是"调节阀"。有了方向信息，干预手段也可以从简单粗暴的清零，升级成更精细的"按比例缩放"，把放大偏见的神经元适度削弱，把抑制偏见的神经元适度增强，这在机制可解释性领域有个专门的名字。

> 激活转向（activation steering）：一种不修改模型权重、而是在推理过程中直接对中间层的激活值做加减调整，从而引导模型输出朝某个期望方向变化的技术。这类方法通常需要预先知道调整的方向，而这篇论文目前用的方法恰恰缺的就是这个方向信息。

论文明确提出这是未来工作，而不是这篇论文已经做到的事。

值得一提的是，这篇论文的方法和另一篇引用的工作形成了有意思的对照。Voria等人的研究针对BERT模型里的刻板印象神经元，用积分梯度这种"方向性"很强的归因方法，直接找出那些"推动模型生成刻板印象续写"的1到3个神经元，清零后效果很干净，模型对刻板印象续写的置信度稳定下降。这篇论文的作者坦率地承认，自己的方法之所以出现"双向去稳定"而不是Voria等人那种"干净的抑制"，根本原因就在于选神经元的标准不带方向性，这也是这篇论文明确指出的局限，而不是回避不谈。

论文里还有一些散落的观察值得单独说一说。比如在西班牙语的EsBBQ测试里，宗教类别在两个模型上基线本身就是"反刻板印象"的（偏见分数是负的），这意味着清零神经元让这个分数变得"更负"，看起来像是"改善"了，实际上是让模型原本就存在的一种倾向变得更极端了，这提醒我们解读偏见分数的正负号时，必须先弄清楚模型出发点在哪里，不能只看变化方向就下结论。

论文的作者也老实交代了这项研究的边界。这套方法目前只测试了参数量在40亿以下的模型，而且只研究了MLP层，完全没碰注意力机制（Transformer里另一个核心组件）。BBQ这类基准测的是"显式"偏见，也就是句子里直接写出了身份词，而现实世界中很多偏见是通过姓名、职业、文化行为等"隐式"信号体现出来的，这套方法在隐式偏见场景下是否依然有效，还是个悬而未决的问题。另外，构建对比句对时要求两句话分词后长度完全一致，这个限制在西班牙语这类形态变化丰富的语言里尤其棘手，很多候选身份词对因为音节长度不匹配，根本没法凑成一对合格的对比句。

写在后面

读完这篇论文，最让我意外的不是"偏见能被定位到具体神经元"这件事本身，而是那个双向去稳定的现象。它其实在提醒一个更深层的东西：我们习惯用一个单一的分数（不管是准确率、还是这里的BiasScore）去衡量一个复杂系统的某种属性，但当这个属性本身有方向性，而分数设计成了无方向的绝对值，我们就会系统性地看不清自己到底在测量什么。这不是这篇论文独有的问题，很多"公平性指标"设计上都有类似的隐患，一个净效果为零的分数背后，完全可能藏着两股方向相反、力量相当的暗流。

另一个值得琢磨的细节是，最后一层集中了几乎所有偏见信号这件事，如果放到更大的模型上还成立吗？论文只测到30亿参数，如果换成700亿参数的模型，这种"信号在GLU门控下被压缩进最后一层"的现象是会更明显，还是会因为层数增多而重新分散开？这个问题论文没有回答，留给了未来的人。

Q&A

Q1：Fairness Pruning是什么？

A：Fairness Pruning是一种定位并测试大语言模型中人口统计学偏见来源的方法，通过对比几乎完全相同、只有一个身份词不同的句子对，找出反应差异最大的神经元，再通过清零这些神经元来验证它们是否真的影响模型的偏见行为，整个过程不需要额外训练模型。

Q2：清零偏见神经元后模型的偏见真的减少了吗？

A：效果并不稳定。实验发现清零这些神经元会导致偏见分数出现双向变化，有时候降低，有时候反而升高甚至方向反转，因为筛选标准BiasScore只衡量反应大小不衡量方向，选出的神经元里混杂了放大偏见和抑制偏见两种类型。

Q3：这种方法会损害模型的其他能力吗？

A：几乎不会。实验中最多清零40个神经元，占模型总宽度的0.031%，但语言建模、常识推理、通用知识等能力的平均保留率高达99.49%，说明处理人口统计学偏见的神经元和支撑模型通用能力的神经元是可以分开的两套电路。