北京
人工智能生成的透明人工智能與“黑箱”人工智能對比圖。圖片來源：拉夫堡大學
來源：https://techxplore.com/news/2026-04-black-ai-scientists-blueprint-transparent.html
研究表明，無法解釋其決策過程的人工智能（通常被稱為“黑箱”人工智能）可能很快就會被更透明的系統所取代。拉夫堡大學發表在《Physica D: Nonlinear Phenomena》上的一項研究概述了一種構建人工智能的全新數學藍圖，該藍圖能夠揭示人工智能如何學習、記憶和做出決策。
一個具有透明思維的原型
該團隊開發了一種兼具“大腦”和記憶功能的原型系統。與傳統人工智能不同，它可以持續學習而不丟失過去的知識，避免形成虛假或誤導性的記憶，并以清晰、可控的方式模仿人類思維的某些方面——例如隨著時間的推移強化或遺忘信息。
“長期以來，人們一直將智能視為一種在黑箱中涌現的東西，”論文第一作者、拉夫堡大學數學科學系的娜塔莉亞·詹森博士說。“我們希望從根本上重新思考人工智能——我們構建了一個認知內部運作完全透明的系統。”
在早期測試中，該原型機展現出了令人鼓舞的結果。在簡單的演示中，它無需監督即可學習音符和短樂句，并能從卡通圖像等視覺數據中識別和存儲顏色。在所有任務中，它的行為都具有可預測性和可追蹤性，同時避免了人工智能中常見的“災難性遺忘”和虛假記憶的形成等問題。
透明學習背后的理論
研究人員表示，透明人工智能面臨的主要障礙之一是對自然智能中記憶、行為和物理結構如何相互作用的理解有限。這種理解上的差距使得設計既能執行復雜任務又能解釋其執行方式的系統變得困難。
這種新方法的核心是一個名為“可塑性矢量場”的數學概念，它模擬信息隨時間的變化，并以此反映大腦處理和存儲信息的方式。這使得人工智能學習和認知過程的每個階段都能被追蹤，并且從一開始就具備了透明度，而非后期添加。
“要構建能夠透明且按預期運行的智能系統，我們需要解決一些根本性問題，”詹森博士說。“我們如何識別人類的智能？通過行為。是什么驅動了這種行為？大腦活動。但大腦活動本身的基礎是什么？大腦的‘代碼’是什么？記憶和生理結構之間又是如何聯系的？這些正是我們試圖解答的問題。”
當今神經網絡的局限性
研究團隊還考察了現有的神經網絡，發現它們的許多局限性可能源于它們的設計方式。
“令人興奮——也有些出乎意料——的是，我們現在可以清楚地看到為什么當前的神經網絡難以解釋，”該研究的作者之一、拉夫堡大學物理系教授亞歷山大·巴拉諾夫說道。“這不僅僅是技術上的難題。它們的設計使得我們無法完全控制它們學習和存儲信息的方式。這就是為什么像我們這樣的新方法如此重要。”
邁向實際影響的下一步
該原型系統目前仍相對簡單，需要進行擴展才能應用于實際場景。拉夫堡大學團隊計劃進一步開發該系統，并探索其更廣泛的應用前景——包括應用于新型硬件——旨在打造功能強大且更易于理解和信任的人工智能。
巴拉諾夫教授說：“最終，這項研究使我們更接近于人們在日常生活中可以信賴的技術——從更安全的醫療保健工具到更負責任的自動化決策。”
閱讀最新前沿科技趨勢報告，請訪問21世紀關鍵技術研究院的“未來知識庫”
未來知識庫是 “21世紀關鍵技術研究院”建 立的在線知識庫平臺，收藏的資料范圍包括人工智能、腦科學、互聯網、超級智能，數智大腦、能源、軍事、經濟、人類風險等等領域的前沿進展與未來趨勢。目前擁有超過8000篇重要資料。每周更新不少于100篇世界范圍最新研究資料。 歡迎掃描二維碼或訪問https://wx.zsxq.com/group/454854145828進入。
截止到2月28日 ”未來知識庫”精選的百部前沿科技趨勢報告
（加入未來知識庫，全部資料免費閱讀和下載）
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
