共享層,系統性風險

🤖演算法單一栽培#

同一個模型,被每一家雇主共用

當多數公司都用同一家供應商的 AI 來篩履歷,這個模型便不再是眾多過濾器中的一個,而成了那個過濾器。史丹佛 HAI 發現這已不再是理論:共享的評分,會製造出全市場範圍內彼此關聯的排除。

🚪一家供應商,每一道門#

層層連鎖的拒絕

被一個共享模型打了低分的求職者,會在所有使用它的雇主那裡被一併篩掉，這種骨牌效應,在各公司獨立判斷時並不存在。史丹佛 HAI 已對照《財星》500 大的招聘職位,驗證了這一連鎖。

📉差別性影響#

模型悄悄淘汰的是誰

在 340 萬名申請者中,亞裔在 5.3%、黑人在 10.6% 的情形裡處於不利;按申請計,約 15% 與約 26% 的職位在履歷階段就把他們篩掉。約 90% 的美國公司,已經在用 AI 做篩選。

⚠️不透明 + 觸及面 + 利害#

三種危險的特質

HAI 主張,招聘 AI 集齊了一個社會系統不該有的一切:它被廣泛部署、足以改寫人生,且對它所評判的人不透明。這三種特質,彼此放大。

🏭供給集中#

產能,偏向利潤最高的產品

記憶體廠商正把晶圓產能傾注於 HBM 與高階伺服器 DRAM,令通用產品斷糧。投入端市場的集中,行為很像單一栽培:對贏家高效,對下游所有人脆弱。

💾HBM 蠶食通用 DRAM#

價格的地板,被抬到更高

聯想(ISC 2026)預計,即便 2028 年新廠投產,DRAM/NAND 五年以上也回不到舊日水位。AI 伺服器用的 HBM 與高階 DRAM,正吸走那份曾讓通用記憶體便宜的產能。

🧮稀缺之下,設計隨之轉向#

從堆滿記憶體,轉向 GPU 算力

當記憶體不再便宜,系統設計隨之改變:與其把容量堆到頂,不如倚重 GPU 加速的算力。需要 1TB 以上的 16 通道伺服器,把這份成本壓力變得具體可感。

🔗集中即脆弱#

經濟版的單一栽培

一個偏向單一產品的產能市場,正是演算法單一栽培的鏡像:局部理性,全局脆弱。下游玩家,繼承了一個自己並未選擇的單點故障。

🪨共享層為何主宰一切#

基底,設下天花板

效能與公平,與其說由看得見的頂層左右,不如說由其下的基底左右。讓快取存取主宰 CPU 吞吐的那套邏輯,也讓一層共享的決策層主宰社會的結果。

🧠隱形基底,設下天花板#

快取,就是那個典型案例

CPU 的真實吞吐,由記憶體存取模式左右,而非指令條數，隨機存取可能比循序存取慢約 12 倍。同樣的結構性真相會向上放大:你看不見的那一層,決定著你看得見的結果。

♻️局部高效,全局買單#

一再重演的交易

每個參與者都只優化自己那一塊，某供應商的準確率、某晶圓廠的利潤、某個迴圈的速度，而共享層上,積起一筆無人認領的成本。系統性風險,正是局部優化甩出的外部性。

🔍稽核那不可見之物#

對不透明共享系統的回應

若一層隱形基底在大規模上決定結果,對策便是獨立的度量:偏見稽核、供應商多樣性評分、差別性影響測試。不透明正是那道漏洞;而稽核,是把它撬開的方式。

💼公平性稽核,成為一種職業#

風險親手造出的工作

為 AI 招聘系統稽核偏見與單一栽培暴露,正成長為一門專門職業,揉合了 AI 資安、公平性機器學習與僱傭法遵循。一張危害地圖,同時也是一張招聘地圖。

🛠️稽核即服務#

把對策,做成產品

如果每一家雇主都在租用同一個不透明的模型,就有人能把稽核賣出去:差別性影響測試、供應商多樣性評分、面向求職者的透明與申訴。製造風險的那份不透明,也正好定義了產品。

⚖️監管,正在追上來#

LL144、EEOC、歐盟 AI 法案

紐約市第 144 號地方法,強制對自動化招聘工具做偏見稽核;EEOC 的指引與歐盟 AI 法案,也朝同一方向施壓。規則,把自願的稽核,變成合規的底線。