北京
你會(huì)在兒童房放一本“白人至上”的書嗎？
智能照明品牌智巖科技（Govee）最近就踩了這個(gè)雷。該公司美國官網(wǎng)上一張臥室燈光營銷圖中，書架赫然擺著兩本書，書脊上只印著“white supremacy”字樣。更讓人不舒服的是，書就放在兒童床上方的架子上，被幾只玩具動(dòng)物壓在下面。
科技媒體The Verge最先報(bào)道此事，消息源自一位讀者爆料。該媒體聯(lián)系智巖后，圖片隨即被撤下，但在發(fā)稿前未收到公司回應(yīng)。隨后Ars Technica跟進(jìn)采訪，智巖公關(guān)經(jīng)理Connie Liu做出說明。
圖片的出處是這場爭議的第一個(gè)焦點(diǎn)。智巖方面稱，這張圖來自第三方授權(quán)圖庫。Connie Liu在給Ars Technica的回復(fù)中解釋：“我們意識(shí)到內(nèi)部審核流程未達(dá)到應(yīng)有標(biāo)準(zhǔn)，正在立即加強(qiáng)流程管理，確保不再發(fā)生類似事件。”
這里暴露了兩個(gè)層面上的問題。第一層是圖庫內(nèi)容審查——如果連書脊上印什么字都沒被注意到，說明要么無人審查，要么審查者認(rèn)為這個(gè)細(xì)節(jié)不重要。第二層是AI生成內(nèi)容的可能性。The Verge在周二指出，這張營銷圖缺少內(nèi)容來源與真實(shí)性聯(lián)盟（C2PA）或谷歌SynthID的水印數(shù)據(jù)，這些水印有時(shí)會(huì)伴隨AI生成圖片出現(xiàn)。
那么，這張圖到底有沒有人看？
按照常理，營銷物料上線前應(yīng)該有人過目。但Connie Liu沒有正面回答Ars Technica關(guān)于“圖片發(fā)布前是否有人工審核”以及“公司采取哪些措施確保素材不含冒犯性內(nèi)容”的具體提問。可以確定的是，智巖承認(rèn)現(xiàn)有流程不夠嚴(yán)格，承諾改進(jìn)。可以推測的是，要么沒人審核這張圖，要么審核了但忽略了書架上的細(xì)節(jié)。
這件事的反直覺之處在于，它暴露的風(fēng)險(xiǎn)藏在最不起眼的地方。一家智能燈公司的核心產(chǎn)品是燈光效果、色彩氛圍、安裝便捷性，營銷團(tuán)隊(duì)大概率盯著燈具本身的光效是否好看、場景是否溫馨。書架只是背景里的道具，書籍更是道具中的細(xì)節(jié)。但恰恰是這個(gè)“細(xì)節(jié)中的細(xì)節(jié)”，觸發(fā)了最敏感的議題。
對智巖來說，損失已經(jīng)產(chǎn)生，但補(bǔ)救路徑清晰：重新梳理第三方素材的審核清單，把“檢查畫面中所有文字內(nèi)容”寫入流程；規(guī)定兒童場景素材必須經(jīng)過額外的人工復(fù)核。這些動(dòng)作不難，難點(diǎn)在于意識(shí)到需要做——而這次事件恰好提供了那個(gè)意識(shí)。問題只在于，為什么需要一本書脊朝外的書來當(dāng)老師。
特別聲明：以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺(tái)“網(wǎng)易號(hào)”用戶上傳并發(fā)布，本平臺(tái)僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
