全球每天有超過50億條搜索請求、數(shù)萬億次內(nèi)容推薦，背后都站著一個(gè)被刻意隱藏的假設(shè)——機(jī)器沒有立場。這個(gè)假設(shè)正在批量制造我們看不見的傷害。

「技術(shù)中立」是最成功的營銷話術(shù)

我們從小被灌輸一個(gè)畫面：代碼像數(shù)學(xué)公式一樣純凈，數(shù)據(jù)像礦石一樣客觀。搜索引擎只是圖書館，社交推薦只是水管，信用評分只是計(jì)算器。出問題了？那肯定是數(shù)據(jù)臟了，跟設(shè)計(jì)它的人沒關(guān)系。

這套敘事的美妙之處在于責(zé)任蒸發(fā)。Facebook可以把 polarization（極化內(nèi)容）歸咎于用戶行為，Uber能把司機(jī)困境甩給市場供需，招聘平臺可以說算法只是"反映現(xiàn)實(shí)"——仿佛這些系統(tǒng)是從石頭縫里蹦出來的。

每行代碼都是一次價(jià)值拍賣

舉個(gè)具體的例子。2018年亞馬遜被迫放棄一個(gè)內(nèi)部招聘工具，因?yàn)樗掷m(xù)給女性工程師簡歷打低分。技術(shù)團(tuán)隊(duì)最初的辯解很典型：算法只是學(xué)習(xí)了歷史數(shù)據(jù)，歷史數(shù)據(jù)里男性工程師更多，所以結(jié)果"客觀"反映了現(xiàn)實(shí)。

但設(shè)計(jì)這個(gè)系統(tǒng)時(shí)，有人決定了用"過去10年 hires"作為訓(xùn)練集，而不是"過去10年 applicants"。有人決定了把"包含女子學(xué)院"作為降權(quán)信號，而不是"包含體育特長"。有人決定了優(yōu)化目標(biāo)是"降低離職率"而非"提升團(tuán)隊(duì)多樣性"。

這些不是技術(shù)決策，是價(jià)值觀拍賣——而且拍賣會上只有工程師的聲音。

數(shù)據(jù)不是礦石，是化石

原始內(nèi)容里有個(gè)精準(zhǔn)的判斷：Every data set is a historical artifact（每個(gè)數(shù)據(jù)集都是歷史文物）。翻譯一下：數(shù)據(jù)里封存著過去誰被看見、誰被忽視的權(quán)力結(jié)構(gòu)。

美國醫(yī)療算法曾系統(tǒng)性地低估黑人患者的健康風(fēng)險(xiǎn)，因?yàn)橄到y(tǒng)用"歷史醫(yī)療支出"替代"實(shí)際病情"作為指標(biāo)。歷史支出低？那說明病情不重。但歷史支出低的真實(shí)原因是黑人社區(qū)醫(yī)療資源匱乏。算法把結(jié)構(gòu)性歧視編碼進(jìn)了未來。

更隱蔽的是推薦系統(tǒng)的"中立性"。YouTube的推薦引擎被設(shè)計(jì)為最大化觀看時(shí)長，這個(gè)指標(biāo)看起來人畜無害。但MIT媒體實(shí)驗(yàn)室的研究發(fā)現(xiàn)，極端內(nèi)容天然更能留住注意力——于是系統(tǒng)學(xué)會了把用戶往 rabbit hole（信息繭房）里推，而且推得越來越快。

沒人寫代碼說"推薦陰謀論"。但有人寫了代碼說"優(yōu)化 engagement（用戶參與度）"，然后假裝不知道 engagement 和 outrage（憤怒情緒）的換算公式。

誰在寫未來的操作系統(tǒng)？

全球市值前十的公司里，七家的核心資產(chǎn)是算法基礎(chǔ)設(shè)施。它們正在以"中立平臺"的身份，悄悄把特定的時(shí)間觀、注意力分配方式、甚至人際關(guān)系模型，澆筑進(jìn)幾十億人的日常。

這不是陰謀論，是架構(gòu)問題。當(dāng)你打開外賣軟件，是"最近30分鐘送達(dá)"優(yōu)先，還是"騎手權(quán)益保障"優(yōu)先？當(dāng)短視頻排序，是"完播率"權(quán)重高，還是"信息價(jià)值"權(quán)重高？每個(gè)默認(rèn)選項(xiàng)都是一次立法，只是立法者從不露面。

原文拋出的問題值得貼在每個(gè)產(chǎn)品經(jīng)理的工位上：whose values are being codified into the infrastructure of our future？

翻譯過來就是：我們正在用誰的價(jià)值觀，給下一代人編寫操作系統(tǒng)的底層代碼？

這個(gè)問題沒有標(biāo)準(zhǔn)答案，但沉默本身就是答案的一種。