用AI，這3件事千萬別做！一不小心就違法

AI已成為提升效率的重要工具

寫文案、做表格、查資料、做設計

都更加便捷高效

但便利之下

也隱藏著不容忽視的風險

如果使用不當

不僅可能惹上麻煩

還可能危害國家安全、觸碰法律紅線

嚴重的甚至會被追究刑事責任

小王是某單位工作人員，為提升工作效率，他嘗試使用一款流行的開源AI工具分析一份標注“秘密”的內部報告。由于電腦系統默認開啟公網訪問，且未設置訪問密碼，小王上傳文件后，該AI工具的后臺服務端口直接暴露在公網。經查，該開源框架的默認配置存在安全缺陷，而單位未進行任何安全加固，也未對使用外部AI工具進行安全評估和審批。此次泄露導致內部涉密資料外流，損害了國家安全。該機關單位及直接負責的主管人員、直接責任人員小王等人依法受到處分。根據法律規定，如泄露內容經鑒定屬于國家秘密且情節嚴重，相關責任人員可能構成過失泄露國家秘密罪，并依法追究刑事責任。

那么，使用AI時有哪些紅線不能碰：

1.把涉密內容“喂給”AI

有人為了省事，把涉密文件、內部報告、國防科研數據、敏感政務信息直接輸入AI，讓其寫報告、整理材料、潤色文字；還有人把未公開的科研數據、技術參數、試驗結果輸入AI分析，甚至把涉及軍事設施、敏感地理信息的照片發給AI識別。許多AI應用具有自動存儲、云端上傳、持續學習等功能，用戶輸入的文字和圖片可能被后臺記錄。一旦被不法分子或境外機構獲取，就可能造成國家秘密、工作秘密泄露。無論故意還是過失，只要情節嚴重，都可能被依法追責。

2.用AI非法抓取敏感數據

一些企業或個人為了訓練模型，非法抓取人口、金融、能源、地理測繪等重要數據，甚至入侵政務網站、高校數據庫、國企系統，竊取技術資料和行業敏感信息，用于訓練AI或牟利。還有人收集公民個人信息、醫療健康數據并整合出售給境外機構。國家核心數據、重要數據和個人敏感信息，絕不能非法獲取、買賣或向境外提供。此類行為涉嫌非法獲取計算機信息系統數據罪、侵犯公民個人信息罪等；若向境外提供，后果更嚴重。

3.用AI造假傳播虛假信息

有人借助AI換臉、配音技術偽造官方通知、政策解讀，或批量生成抹黑國家形象、煽動對立、制造恐慌的文章、海報、短視頻。AI生成內容成本低、傳播快、迷惑性強，容易誤導公眾、擾亂秩序、損害國家公信力。特別是在重大節日、重要會議期間，危害更大。此類行為可能涉嫌編造、故意傳播虛假信息罪，尋釁滋事罪，甚至危害國家安全類犯罪。

違法使用AI，代價有多大

隨意將涉密信息輸入AI，非法抓取數據，制作傳播虛假信息，都會付出代價。輕則承擔民事責任，如賠償損失、刪除內容、公開道歉；違反行政管理規定的，可能被罰款、行政拘留，公職人員還會面臨降級、撤職直至開除處分。若嚴重危害國家安全和社會秩序，則可能觸犯刑法，構成泄露國家秘密、非法獲取數據、編造傳播虛假信息等犯罪，面臨有期徒刑甚至更重處罰。企業違法的，還可能被處以巨額罰款、停業整頓、吊銷資質，負責人同步追責。

用好AI，記住4條準則

1.選擇正規平臺。在使用AI應用時，應優先選擇國內正規平臺提供的服務，避免通過社交媒體、陌生郵件、未知鏈接等非官方途徑下載應用。對于聲稱提供“免費掃碼試用”或“限時內測”的非官方來源應用程序，應保持警惕、注意甄別，確保數據安全。

2.審慎授予權限。在安裝AI應用時，應仔細審查其權限請求，審慎授予訪問通訊錄、位置信息、相冊、麥克風等涉及隱私的數據權限。定期檢查已授權應用的權限狀態，及時取消不必要的權限，防止敏感信息泄露。

3.筑牢保密紅線。嚴格遵守“涉密不上網，上網不涉密”的原則，嚴禁連接互聯網使用AI應用處理國家秘密。工作中的機密文件、國家秘密、敏感政務數據，堅決不輸入任何AI應用。

4.嚴守法律底線。不用AI偷數據、不搞違法研發，不造不傳AI虛假信息。看到AI換臉、AI造假的有害內容，不轉發、不傳播。疑似涉及國家安全的，及時撥打12339國家安全機關舉報電話。

享受便利的同時

更要守住AI使用的安全底線

始終繃緊風險之弦

堅持規范使用、理性使用、安全使用

來源：最高人民法院