當前，人工智能技術加速演進，正從內容生成、智能交互向行業應用、公共服務、知識生產、社會治理等領域持續拓展，深刻改變生產生活方式和社會運行形態。推動人工智能健康有序發展，既要充分釋放技術創新活力，也要堅持以人為本、智能向善的理念，統籌發展和安全，引導人工智能應用更好服務經濟社會發展和人民美好生活。近日發布的《人工智能應用倫理安全指引1.0》（以下簡稱《指引》），立足人工智能應用活動實際，為推動人工智能應用倫理安全治理從原則倡導走向實踐落實提供了重要參照。

一、以開放協同凝聚人工智能應用倫理安全治理共識

人工智能應用倫理安全治理，關系技術創新方向、產業應用秩序和社會公共利益，既需要堅持正確價值導向，也需要在應用實踐中持續凝聚共識。隨著人工智能應用加快拓展，不同領域、不同場景對倫理安全的理解和關注重點不盡相同，亟需形成相對統一的認識基礎。《指引》編制過程中，注重匯聚有關主管部門、行業部門及產學研用各方力量，充分聽取相關部門、專家學者、企業機構和行業組織意見建議。一方面，圍繞人工智能應用倫理安全治理的總體方向、政策銜接和實踐需求開展深入溝通，確保《指引》與人工智能治理有關部署相協調；另一方面，圍繞人工智能應用活動中的倫理安全影響、理念原則和主體責任開展專業研討，吸收不同領域、不同行業實踐經驗和意見建議，推動各方在治理目標、基本原則和實踐路徑上形成更加一致的認識。

在此基礎上，《指引》立足人工智能應用活動實際，將價值導向、風險邊界和實踐要求進一步轉化為面向應用活動的共同語言和基本遵循，使倫理安全要求能夠被不同主體理解、參照和落實。這既體現了人工智能應用倫理安全治理的價值共識，也兼顧了技術創新和產業應用中的現實需求，推動人工智能應用倫理安全治理從共識凝聚走向實踐深化。

二、把倫理安全轉化為可識別的標準化對象

倫理安全具有價值屬性強、涉及范圍廣、表現形態多樣等特點。對于人工智能應用治理而言，將倫理安全相關要求轉化為清晰的識別維度和治理參照，有利于幫助相關主體在具體應用活動中理解要求、把握邊界、開展實踐。《指引》立足人工智能應用活動實際，對倫理安全相關影響進行系統梳理，推動宏觀價值要求進一步轉化為各方可理解、可識別的標準化對象，為人工智能應用向善發展提供重要參考。

（一）拓展人工智能應用治理視野

人工智能倫理安全不是孤立的道德討論，而是人工智能深度融入經濟社會發展后，與技術創新、產業應用、公共服務和社會治理相伴而生的重要議題。人工智能應用越是深入，越需要在關注技術安全、產品安全、服務安全的同時，進一步關注其對人的主體性、社會秩序、公共利益和長遠發展的影響。《指引》從人工智能應用活動出發，將倫理安全納入人工智能應用治理整體框架，有助于引導相關主體從更寬視野認識人工智能應用影響，推動人工智能更好體現以人為本、智能向善的價值取向。

（二）形成倫理安全影響識別框架

提升人工智能應用倫理安全治理效能，關鍵在于把復雜多元的倫理安全影響轉化為明確的識別框架。倫理安全涉及價值取向、權利保障、責任邊界、社會秩序等多個方面，具有綜合性、關聯性和場景性特點。對于主管部門、行業組織、企業機構和社會公眾而言，形成相對清晰的識別維度，有助于在不同場景、不同環節中理解、研判倫理安全，推進倫理安全治理。《指引》通過對人工智能應用活動相關影響的系統梳理，將相對抽象、多元、復雜的倫理安全要求，轉化為較為清晰的治理維度，為各方在統一框架下形成認識、開展工作、加強協同提供基礎參照。

（三）為重點場景治理提供基礎支撐

人工智能應用倫理安全治理需要從基礎框架走向場景實踐，重點場景是檢驗和細化治理要求的重要領域。公共服務、教育、醫療、金融、內容傳播、知識生產等場景，與人民群眾切身利益、社會公共秩序和行業發展質量密切相關，對倫理安全治理提出了更具體的實踐需求。《指引》形成基礎性識別框架，有助于面向重點行業、重點場景和重點主體細化治理要求、形成配套指南、開展評估驗證、積累典型案例，推動人工智能應用倫理安全治理更加貼近應用實際、更加注重實踐落地。

三、把價值導向轉化為可遵循的基本規則

人工智能應用倫理安全治理，既需要價值引領，也需要將價值要求轉化為應用活動中可以遵循的基本規則。《指引》在倫理安全理念中明確了人工智能應用活動的總體取向，并在倫理安全原則中從人類福祉、生命權利、公平公正、控制風險、公開透明、隱私安全、可控可信、敏捷共治、普惠共享等方面作出細化，有助于推動價值導向從原則共識進一步轉化為應用活動中的規則參照，引導人工智能應用在創新發展中更好服務人的發展和社會公共利益。

（一）以人為本、智能向善的價值導向

人工智能應用深度融入生產生活，倫理安全治理須更加注重維護人的主體地位、保障人的合法權益、促進人的全面發展。《指引》將增進人類福祉、尊重生命權利、堅持公平公正等內容納入倫理安全原則，有助于引導相關主體在人工智能應用活動中更加重視人的主體地位和合法權益，推動人工智能應用更好服務經濟社會發展和人民群眾實際需要。

（二）促進發展和安全協同推進

人工智能應用從技術探索走向場景落地，既帶來效率提升和模式創新，也使倫理安全要求更加受到關注。《指引》將合理控制風險、保持公開透明、保護隱私安全、確保可控可信等納入倫理安全原則，有助于引導相關主體在人工智能應用活動中統籌考慮創新價值與安全要求，把倫理安全要求融入方向把握、制度安排和過程管理之中，為人工智能應用規范有序發展提供價值參照。

（三）形成價值引領與行為約束相統一的規則體系

人工智能應用倫理安全治理需要在明確價值取向的基礎上，進一步劃定應用活動應當遵循的基本邊界。《指引》圍繞增進人類福祉、尊重生命權利、堅持公平公正、普惠共享等要求，明確人工智能應用應當服務人的全面發展和社會公共利益；圍繞合理控制風險、保護隱私安全、確保可控可信等要求，明確人工智能應用應當堅持必要的安全邊界和責任約束；圍繞保持公開透明、敏捷共治等要求，明確人工智能應用應當增強可理解性、可監督性和協同治理能力。通過將價值目標、風險邊界和治理方式相銜接，《指引》推動倫理安全原則從一般性理念轉化為人工智能應用活動可以對照把握的基本規則，引導相關主體在促進創新應用的同時，更好兼顧權益保護、風險防范和公共利益維護。

四、把原則要求轉化為可操作的應用指引

圍繞人工智能應用活動中的實踐需求，《指引》在明確倫理安全影響、理念和原則的基礎上，進一步將相關要求延伸到應用活動層面，圍繞通用要求以及應用開發、服務提供、應用使用等環節形成實踐參照，有助于推動倫理安全要求從價值共識和原則要求進入具體應用過程，為相關主體規范開展人工智能應用活動提供行為參考。

（一）以通用指引明確應用活動共性要求

《指引》圍繞人工智能應用活動給出通用指引，將倫理安全理念和原則進一步銜接到應用目的、能力邊界、人的監督、權益保護、風險防范等基礎環節。通過對共性事項作出引導，《指引》為不同主體、不同場景開展人工智能應用活動提供了基本參照，使倫理安全要求能夠從原則層面進入具體應用過程。

（二）面向應用活動各方明確實踐要求

人工智能應用倫理安全要求需要落實到應用開發、服務提供和應用使用等具體活動中。《指引》面向應用活動各方提出要求，體現了根據不同環節特點推動責任落實的思路。對應用開發環節，重在推動倫理安全要求前置融入目標設定、功能設計、技術實現和測試驗證等過程，促進人工智能應用從源頭提升安全性、適用性和可預期性。對服務提供環節，重在推動倫理安全要求貫穿服務運行、用戶交互和風險處置等過程，促進人工智能服務在具體場景中保持規范、可控、可信。對應用使用環節，重在推動使用者科學認識人工智能能力邊界、理性審慎開展應用活動，共同維護安全有序、健康良好的人工智能應用生態。

通過面向應用活動各方明確實踐要求，《指引》將倫理安全原則進一步轉化為開發有遵循、服務有規范、使用有邊界的應用指引。這樣的安排，既有利于推動相關主體在各自環節履行相應責任，也有利于促進應用開發、服務提供和應用使用之間形成銜接配合，推動人工智能應用倫理安全要求更好融入實際活動、落到具體場景。

《指引》作為人工智能應用倫理安全治理的基礎性文件，立足應用活動實際，突出價值引領、規則傳導和責任落實，為完善人工智能倫理安全治理體系提供了重要支撐。面向未來，建議以《指引》發布實施為契機，圍繞重點行業、重點場景和重點主體，持續完善配套標準、實踐指南、評估方法和典型案例，推動人工智能應用倫理安全要求更好融入技術創新、產業發展和社會治理實踐，引導人工智能始終沿著以人為本、智能向善、安全可信的方向健康有序發展。（作者：中國電子技術標準化研究院副院長 范科峰）

來源：全國網安標委

審核：劉浩楊

編發：蘇紀元