近年來，人工智能深度融入經濟社會各領域，深刻改變人類生產生活方式。同時，算法偏見、隱私泄露、濫用風險等倫理安全問題愈發突出，侵害個人權益、擾亂社會秩序甚至危害國家安全風險不斷上升。習近平總書記高度重視人工智能治理，強調要把握人工智能發展趨勢和規律，加緊制定完善相關法律法規、政策制度、應用規范、倫理準則。近日，全國網絡安全標準化技術委員會發布《人工智能應用倫理安全指引1.0》（以下簡稱《指引》），系統劃定人工智能應用倫理安全邊界與底線，為人工智能健康有序、安全可控、向善發展提供規范化依據與實操性遵循。

一、統籌發展與安全，健全中國特色人工智能倫理安全治理體系

我國立足國情與治理實踐，防范化解人工智能倫理安全風險，逐步構建以頂層設計為引領、柔性指引與剛性規制協同的中國特色人工智能倫理安全治理體系。柔性指引層面，先后出臺《新一代人工智能倫理規范》《關于加強科技倫理治理的意見》以及《人工智能安全治理框架》1.0版、2.0版，將倫理要求嵌入人工智能全生命周期，系統防范安全風險。剛性規制層面，通過《互聯網信息服務算法推薦管理規定》《生成式人工智能服務管理暫行辦法》《人工智能擬人化互動服務管理暫行辦法》以及新修訂的《中華人民共和國網絡安全法》，完善倫理安全規范、強化風險監測評估與合規監管。在頂層統籌層面，我國依托科技倫理治理、網絡信息治理、產業治理等多方面機制，推動形成多部門協同、社會各方參與的治理格局，通過《全球人工智能治理倡議》參與全球治理，通過《國務院關于深入實施“人工智能+”行動的意見》進一步探索形成智能向善理論體系。

我國人工智能倫理安全治理體系持續健全完善，倫理風險防控加速從制度層面逐步走向實踐落地，現階段仍面臨諸多現實堵點與突出難題。人工智能加速賦能千行百業，出臺《指引》既是推動人工智能規范合規、健康有序發展的內在要求，也是有效防范化解人工智能應用層面倫理安全風險的現實舉措。

一是筑牢倫理安全防線，保障人工智能健康有序發展。《指引》的出臺，立足人工智能發展新階段，圍繞人類主導權、公共秩序、個體認知與社會價值、可持續生態影響等重點方向，系統提出倫理安全理念、原則與行為規范，有助于推動人工智能在可控、可靠、安全軌道上發展，防止技術異化和失控濫用，確保人工智能始終服務于人類共同福祉、服務經濟社會發展。

二是規范產業發展秩序，推動人工智能負責任創新。《指引》圍繞應用開發、服務提供、應用使用等全鏈條提出明確要求，強調將以人為本、生命至上、公平公正、公開透明、可控可信等倫理安全要求貫穿人工智能應用活動全過程，推動企業在技術創新和產業應用過程中更加注重倫理安全責任與治理。這既有助于營造規范有序、健康可持續的產業生態，也有利于推動人工智能產業在規范有序中實現更高質量發展，進一步提升產業創新能力、應用水平和社會信任度。

三是提升全民使用素養，防范技術濫用風險。《指引》強調正確認識人工智能的能力邊界和潛在影響，倡導增強自主判斷、妥善運用人工智能，明確提出提升公眾對虛假錯誤信息、誤導性內容和倫理安全風險的識別能力。同時，《指引》鼓勵建立風險提示、投訴舉報、反饋糾偏等機制，推動形成政府、企業、社會公眾多方參與的協同治理格局，有助于提升全民人工智能應用素養和風險防范意識，減少技術濫用對社會造成的不良影響。

二、強化技術指引，全方位筑牢倫理安全防線

一是為各應用主體提供明確行為準則。《指引》圍繞應用開發者、服務提供者和應用使用者三類主體，分別提出系統性規范要求，明確人工智能研發、部署、運營、使用全過程中的責任邊界和行為要求。在開發環節，強調提升可控性、公平性、透明度等目標貫穿應用開發與更新，要求開發者開展倫理安全影響評估、設置事故信息追溯機制；在服務提供環節，強調理性引導、隱私保護、風險提示和應急處置；在應用使用環節，倡導妥善運用、審慎提供敏感信息、尊重他人合法權益。通過建立全鏈條責任體系，《指引》有助于推動各主體形成規范意識和責任意識，減少人工智能應用活動中的倫理安全失范行為。

二是防范化解人工智能倫理安全風險。人工智能風險具有復雜性、隱蔽性、擴散性和外溢性等特點，一旦失控，可能對個人、社會乃至國家層面造成較大影響。《指引》聚焦人工智能可能帶來的人類主導權弱化、社會秩序影響、價值體系沖擊、偏見歧視、合法權益侵害、可持續生態壓力等問題，提出覆蓋事前預防、事中監測、事后處置的系統性治理要求。例如，《指引》要求建立必要的應急處置與人工干預機制，防范人工智能脫離人類監督；要求持續監控服務及運行過程，識別發現倫理安全風險并及時處置；要求設置事故信息追溯機制，實現責任追溯。這些措施有助于提升人工智能風險治理能力，增強技術應用的安全性和可控性。

三是引導人工智能向善發展。《指引》堅持以人為本、智能向善的理念，強調人工智能應服務于經濟社會發展和人民福祉提升，而非削弱人的主體地位或加劇社會不公。《指引》強調公平包容、機會均等和普惠共享，關注未成年人、老年人、殘障人士等重點群體權益，倡導人工智能提升公共服務公平性與可及性。同時，鼓勵開源創新、知識共享和多元技術路徑探索，推動人工智能應用成果更廣泛惠及社會公眾。這有助于推動人工智能技術始終與社會公共利益保持一致，引導人工智能始終堅守正向價值、堅持向善發展。

四是完善倫理安全協同治理體系。人工智能治理是一項系統工程，既涉及法律法規、倫理規范、技術標準，也涉及社會監督、國際合作和公眾參與。《指引》在理念層面提出敏捷共治、協同治理等原則，在實踐層面提出倫理安全評估、風險監測、信息提示、投訴反饋等制度安排，為構建我國人工智能倫理安全治理體系提供了重要補充。同時，《指引》強調加強國際銜接與安全互認，推動治理規則、技術標準和安全基準兼容互洽、同步演進，有助于提升我國在全球人工智能治理中的活躍度和影響力，推動形成開放、合作、共贏的人工智能治理格局。

三、構建協同共進發展格局，護航人工智能高質量發展

一是規范人工智能產業發展。《指引》的出臺有助于進一步規范人工智能產業發展秩序，推動行業從重速度、重規模向重質量、重安全、重責任轉變。通過明確倫理安全要求和風險防控機制，減少無序競爭、低水平重復建設以及因安全問題導致的產業風險，增強市場主體的合規意識和長期發展能力。同時，統一規范有助于增強社會公眾和市場對人工智能產品與服務的信任度，推動人工智能實現規范、有序、可持續發展。

二是推進人工智能創新生態建設。《指引》并非限制技術創新，而是強調安全與發展并重，推動技術創新更加注重長期價值和社會責任。通過將可控可信、公平公正、隱私保護等要求前置到研發和設計階段，有助于推動可信人工智能、隱私計算、可解釋算法、安全評測等關鍵技術發展。同時，《指引》鼓勵開源生態建設、多元技術探索和協同創新，有利于形成更加開放包容、健康可持續的人工智能創新生態，提升我國人工智能核心競爭力。

三是提升智能化社會治理水平。人工智能正在深刻改變社會治理模式。《指引》有助于推動人工智能在醫療健康、信息傳播、科研教育等領域規范應用，在提升治理效率和治理能力的同時，防止自動決策失當、信息操縱、侵害知識產權等問題影響人身安全和社會公平。特別是在社會治理、公共服務等關鍵領域，《指引》強調普惠可及、程序正當、結果復核和公眾救濟機制，有助于維護社會公平正義，提升現代化治理能力和治理公信力。

四是健全公眾權益保護機制。《指引》更加突出對個人合法權益的保護，圍繞隱私保護、個人信息安全、知情權、選擇權、申訴權等提出明確要求，有助于增強公眾在人工智能時代的安全感和獲得感。同時，《指引》強調妥善運用使用人工智能，防范過度依賴、沉迷使用、虛假信息誤導等問題，并要求加強未成年人、老年人、殘障人士等重點群體保護。這有助于推動形成安全、可信、健康的人工智能應用環境，更好保障人民群眾合法權益。（作者：國家互聯網應急中心黨委副書記、副主任 劉博）

來源：全國網安標委

審核：劉浩楊

編發：蘇紀元