十部門聯合印發《辦法》 規范人工智能科技活動倫理治理

記者7日獲悉，工業和信息化部等十部門近日聯合印發《人工智能科技倫理審查與服務辦法（試行）》（以下簡稱《辦法》），為我國人工智能科技倫理審查與服務工作提供了明確指引。

人工智能技術快速發展，深度賦能千行百業，由此帶來的算法歧視、深度偽造等倫理風險也愈加凸顯。人工智能科技倫理治理是人工智能治理的重要組成部分，主要包括增進人類福祉、公平公正、可控可信、透明可解釋、責任可追溯、隱私保護等內涵。工業和信息化部有關負責人表示，加強人工智能科技倫理治理，是堅守科技向善、筑牢科技安全底線、保障產業高質量發展的必然要求。在此背景下，出臺《辦法》，既是對科技倫理治理要求的具體落地，也是推動人工智能產業創新發展、促進負責任創新的現實需要。

根據《辦法》要求，需要開展專家復核的人工智能科技活動主要包括三類：對人類主觀行為、心理情緒和生命健康等具有較強影響的人機融合系統的研發；具有輿論社會動員能力和社會意識引導能力的算法模型、應用程序及系統的研發；面向存在安全、人身健康風險等場景的、具有高度自主能力的自動化決策系統的研發。

上述負責人介紹，《辦法》圍繞標準建設、促進服務、鼓勵創新、宣傳教育、人才培養五個方面制定舉措，精準破解當前人工智能企業倫理治理中存在的技術手段不足、標準規范不完善、治理工具匱乏等問題。

具體來看，《辦法》鼓勵高等學校、科研機構、醫療衛生機構、企業和科技類社會團體等參與人工智能科技倫理標準制定，凝聚行業共識，完善標準體系；推進人工智能科技倫理服務體系建設，強化風險監測預警、檢測評估、認證、咨詢等服務供給，加大對中小微企業人工智能科技倫理審查的支持和服務力度，降低企業合規成本；支持人工智能科技倫理審查技術創新，鼓勵企業運用技術手段防范倫理風險；加強人工智能科技倫理宣傳教育，提升公眾倫理意識和素養；推動職業體系和課程體系建設，采取多種方式培養人工智能科技倫理人才。

據了解，《辦法》堅持促進創新與防范風險相統一，通過制定人工智能科技倫理審查規則，提升人工智能倫理治理能力，確保人工智能負責任創新。

來源: 科技日報