聯合國兒基會發布第三版AI與兒童指南

2025年12月9日，聯合國兒童基金會（UNICEF）發布更新版《AI與兒童指南》（3.0版），旨在促進政府和私營部門在AI政策和實踐中尊重兒童權利，并提高人們對AI系統如何維護或損害這些權利的認識。據介紹，這一指南首版發布于2020年，2021年發布2.0版及一套實用的實施工具（包括家長AI指南、青少AI指南、政策制定者路線圖等）。3.0版本的推出，源于AI技術（例如生成式AI）的飛速發展，兒童對AI系統的使用日益增多，兒童權利方面涌現出的機遇與風險，以及AI治理格局的變化。

“2021年，聯合國兒童基金會發布第二版指南時，我們指出AI系統正在從根本上改變世界，并影響著當代和未來的兒童。我們觀察到，算法會向兒童推薦接下來觀看的視頻、閱讀的新聞、聆聽的音樂以及結交的朋友。如今，生成式AI系統甚至能夠創作視頻、新聞和音樂。它們聲稱自己是兒童的’朋友’，并以這種形象示人。它們不僅幫助兒童學習，還替他們做作業，這可能會損害兒童在關鍵發展階段所需的學習和思考能力。正是這些重大變化促成了本次指南的更新。”

更新內容主要為增了以下幾個重要內容：兒童使用的AI助手；AI供應鏈，包括童工和受有害及非法內容污染的數據集；AI系統對環境的影響，尤其對兒童造成影響；AI生成的兒童性虐待材料（CSAM）和非自愿私密圖像（NCII）；以及AI在武裝沖突和網絡行動中的應用。新指南還探討了利用AI系統更好地支持學習、提高殘疾兒童的學習便利性以及改善兒童福祉等機遇。

該指南文件以《兒童權利公約》為基礎，提出了以兒童為中心的AI的十項要求及48項建議，具體如下：

1.確保以兒童為中心的AI的監管框架、監督和合規性

• 審查、更新并在必要時制定全面的AI相關監管框架，以納入兒童權利。

• 建立監督或監管機構，或將職責分配給現有機構，以確保遵守AI原則和法律，并建立補救支持機制。

• 確保政府AI系統符合AI相關法律和兒童權利法。

2.保障兒童安全

• 要求在AI戰略、政策、法律法規中強制進行AI系統對兒童權利的影響評估。

• 在AI開發的整個生命周期中，持續評估和監測AI對兒童的影響，并公開評估結果。

• 要求對AI系統進行安全性、可靠性和穩健性測試。

• 消除AI生成、傳播和/或放大的有害和非法內容對兒童造成的傷害，并降低其風險，包括虛假信息/錯誤信息、網絡欺凌和詐騙。

• 防止利用AI對兒童實施犯罪，例如性虐待和性剝削兒童。

• 應對AI聊天機器人或智能助手帶來的風險。

• 保護兒童免受AI在武裝沖突和網絡行動中的有害使用。

• 在適當情況下，利用AI系統促進兒童安全，并支持兒童保護工作。

3.保護兒童數據和隱私

• 負責任地處理與兒童相關的數據。

• 采用隱私設計方法。

• 保護特定群體。

• 提升兒童的數據自主權。

4.確保兒童享有非歧視和公平待遇

• 積極支持處于弱勢或易受傷害境地的兒童，使他們能夠從AI系統中受益。

• 減少針對兒童或特定兒童群體的偏見，避免歧視和排斥。

5.為兒童提供透明度、可解釋性和問責制

• AI系統應事先明確告知兒童及其監護人，他們正在與AI而非人類互動。

• 在推廣AI系統的可解釋性和透明度時，應明確關注兒童，并避免將此類系統擬人化。

• 使用適合兒童年齡的語言描述AI。

• 設計、開發和部署AI系統時，應確保其能夠根據法律和政策框架保護和支持兒童用戶，無論兒童對系統的理解如何。

6.通過負責任的AI實踐尊重人權和兒童權利

• 確保在所有涉及AI的數字商業活動中尊重兒童權利。

• 確保從數據到硬件的所有投入都基于權利，并消除所有階段的童工和剝削現象。

• 確保為高層管理人員和AI生命周期中的相關人員（包括設計師、開發人員和研究人員）提供AI和兒童權利方面的能力建設，并承諾采取行動。

• 充分利用客戶對值得信賴且透明的兒童AI解決方案的需求。

7.支持兒童的最大利益、發展和福祉

• 優先考慮AI如何造福兒童，尤其是在AI政策、法律和系統中。

• 開發并應用以兒童權利為導向的設計方法。

• 整合指標和流程，以支持兒童在使用AI時的福祉。

• 解決AI和數字基礎設施對環境造成的負面影響。

• 利用AI系統支持和提高環境可持續性，包括確保可持續的AI價值鏈。

8.確保兒童參與并惠及兒童

• 支持兒童有意義地參與AI政策和治理，以及設計、開發和部署過程。

• 在開發兒童將使用或對其產生影響的AI產品時，采用包容性設計方法。

• 努力確保參與設計、開發、實施、研究、監管和監督兒童可能使用或受其影響的AI系統的人員多元化，包括收集和處理AI數據的人員。

9.為兒童應對AI的當前和未來發展做好準備并培養其技能

• 開發或更新正規和非正規的AI素養教育項目，并加強在AI時代（包括未來工作場所）取得成功所需的生活技能和技術技能。

• 對教師進行AI方面的培訓、裝備和支持，使他們成為教學的核心，而不是取代他們。

• 為教師、學校和教育部門提供指導，以有效地采購和部署AI并降低風險。

• 在適當且有證據支持的情況下，利用AI系統進行教育。

• 針對家長、監護人和整個社會，開展并推廣AI相關的宣傳活動。

• 管理AI對未來工作的影響，以維護兒童權利。

10.為以兒童為中心的AI創造有利環境

• 支持基礎設施建設，以縮小數字鴻溝，力求公平分享AI帶來的益處。

• 投資、調動資源并制定激勵措施，以支持以兒童為中心的AI政策和項目。

• 支持在AI系統生命周期內開展面向兒童和與兒童共同參與的AI研究。

• 為公共利益和維護兒童權利，開展數字合作。

• 在政府和商業實踐中，倡導多方利益相關者參與。

• 支持構建可互操作的AI、數據和數字治理體系，為世界各地的兒童提供平等的機會和保護。

跨領域考量

• 適應國家或地方實際情況。

• 運用前瞻性思維，更好地預測和管理AI。

• 為未來做好準備。

資料來源：

UNICEF. Guidance on AI and Children 3.0. https://www.unicef.org/innocenti/media/11991/file/UNICEF-Innocenti-Guidance-on-AI-and-Children-3-2025.pdf

[本文為教育部國別和區域研究基地中國教育科學研究院國際教育研究中心成果]

本文由中國教育科學研究院“教育國際前沿”課題組成員整理，課題組負責人張永軍，編輯劉強，內容僅供參考。點擊左下角“閱讀原文”可下載該文獻。

本文為原創，轉載請注明。