共享层,系统性风险

🤖算法单一栽培#

同一个模型,被每一家雇主共用

当多数公司都用同一家供应商的 AI 来筛简历,这个模型便不再是众多过滤器中的一个,而成了那个过滤器。斯坦福 HAI 发现这已不再是理论:共享的打分,会制造出全市场范围内彼此关联的排除。

🚪一家供应商,每一道门#

层层连锁的拒绝

被一个共享模型打了低分的求职者,会在所有使用它的雇主那里被一并筛掉，这种多米诺效应,在各公司独立判断时并不存在。斯坦福 HAI 已对照《财富》500 强的招聘岗位,验证了这一连锁。

📉差别性影响#

模型悄悄淘汰的是谁

在 340 万名申请者中,亚裔在 5.3%、黑人在 10.6% 的情形里处于不利;按申请计,约 15% 与约 26% 的岗位在简历阶段就把他们筛掉。约 90% 的美国公司,已经在用 AI 做筛选。

⚠️不透明 + 触及面 + 利害#

三种危险的特质

HAI 主张,招聘 AI 集齐了一个社会系统不该有的一切:它被广泛部署、足以改写人生,且对它所评判的人不透明。这三种特质,彼此放大。

🏭供给集中#

产能,偏向利润最高的产品

内存厂商正把晶圆产能倾注于 HBM 与高端服务器 DRAM,令通用产品断粮。投入端市场的集中,行为很像单一栽培:对赢家高效,对下游所有人脆弱。

💾HBM 蚕食通用 DRAM#

价格的地板,被抬到更高

联想(ISC 2026)预计,即便 2028 年新厂投产,DRAM/NAND 五年以上也回不到旧日水位。AI 服务器用的 HBM 与高端 DRAM,正吸走那份曾让通用内存便宜的产能。

🧮稀缺之下,设计随之转向#

从堆满内存,转向 GPU 算力

当内存不再便宜,系统设计随之改变:与其把容量堆到顶,不如倚重 GPU 加速的算力。需要 1TB 以上的 16 通道服务器,把这份成本压力变得具体可感。

🔗集中即脆弱#

经济版的单一栽培

一个偏向单一产品的产能市场,正是算法单一栽培的镜像:局部理性,全局脆弱。下游玩家,继承了一个自己并未选择的单点故障。

🪨共享层为何主宰一切#

基底,设下天花板

性能与公平,与其说由看得见的顶层左右,不如说由其下的基底左右。让缓存访问主宰 CPU 吞吐的那套逻辑,也让一层共享的决策层主宰社会的结果。

🧠隐形基底,设下天花板#

缓存,就是那个典型案例

CPU 的真实吞吐,由内存访问模式左右,而非指令条数，随机访问可能比顺序访问慢约 12 倍。同样的结构性真相会向上放大:你看不见的那一层,决定着你看得见的结果。

♻️局部高效,全局买单#

一再重演的交易

每个参与者都只优化自己那一块，某供应商的准确率、某晶圆厂的利润、某个循环的速度，而共享层上,积起一笔无人认领的成本。系统性风险,正是局部优化甩出的外部性。

🔍审计那不可见之物#

对不透明共享系统的回应

若一层隐形基底在大规模上决定结果,对策便是独立的度量:偏见审计、供应商多样性打分、差别性影响测试。不透明正是那道漏洞;而审计,是把它撬开的方式。

💼公平性审计,成为一种职业#

风险亲手造出的工作

为 AI 招聘系统审计偏见与单一栽培暴露,正成长为一门专门职业,糅合了 AI 安全、公平性机器学习与雇佣法合规。一张危害地图,同时也是一张招聘地图。

🛠️审计即服务#

把对策,做成产品

如果每一家雇主都在租用同一个不透明的模型,就有人能把审计卖出去:差别性影响测试、供应商多样性打分、面向求职者的透明与申诉。制造风险的那份不透明,也正好定义了产品。

⚖️监管,正在追上来#

LL144、EEOC、欧盟 AI 法案

纽约市第 144 号地方法,强制对自动化招聘工具做偏见审计;EEOC 的指引与欧盟 AI 法案,也朝同一方向施压。规则,把自愿的审计,变成合规的底线。