河北
你有沒有發現這樣一種現象：面對同一個問題，大模型可能在每次回答時都給出不同答案。一個不容忽視的問題是，這種不確定性，是否意味著推理仍不穩定？
隨著技術的發展，大模型在自然語言處理和多模態任務中已經表現出越來越強的性能。傳統解碼策略主要包括隨機采樣（random sample）和貪婪解碼（greedy decoding）。例如，ChatGPT、Claude、Gemini 等大模型默認的是隨機采樣（random sample），即便是回答相同的問題，它們可能每次都會給出不同的答案。
而貪婪解碼（greedy decoding）在一般的基準測試（benchmark）上表現會有所提升，特別是在推理性任務上。但是，模型在不確定情況下的表現仍不理想。
為解決上述問題，美國東北大學與 Adobe、美國凱斯西儲大學聯合團隊提出了一種無需訓練的新型解碼策略，名為“謹慎下一步預測（CNTP，Cautious Next Token Prediction）”。
該策略旨在通過在模型不確定性高的步驟采樣多個候選路徑，并選擇困惑度最低的路徑。相較于隨機采樣和貪婪解碼等傳統策略，CNTP 顯著提升了大模型在多種任務上的推理準確度，可應用場景包括語音助手、視覺助手、聊天機器人等。
圖丨相關論文（來源：arXiv）
“我們的研究證明了 Transformer 模型下一個詞元預測（next token prediction）的范式，有可能實現真正的智能?！痹撜撐牡谝蛔髡咄跻嘀軐?DeepTech 表示。他目前正在東北大學攻讀博士學位，主要研究方向包括大模型、多模態模型和計算機視覺，即將加入 Adobe 擔任研究科學家/工程師。
圖丨王亦周（來源：王亦周）
Safe Superintelligence 公司創始人、前 OpenAI 首席科學家伊爾亞·蘇茨克維（Ilya Sutskever）曾公開表示，如果模型足夠強大，對下一個 token 的預測能力可能反映對世界的某種理解，這可能是實現更深層智能的關鍵路徑。
也就是說，next token prediction 是智能的核心。要實現這一點，需要在模型內部進行強推理，再通過一系列計算預測下一個 token。
受此啟發，研究團隊從人類認知行為中尋找靈感：人在思考時，往往越謹慎回答，結果的準確率越高，那么大模型會不會也和人腦有類似的機制？
王亦周解釋道：“這種過程類似于我們在參加考試時的解題過程，我們可能會先想下有哪些解法，然后從中挑選一種認為最有把握的方法，確認無誤后再進行下一步，直到得到完整的證明?！?/p>
圖丨 CNTP 方法概述（來源：arXiv）
這里的謹慎指的是，當面對不確定性的情況，需要多嘗試幾條不同的路徑，然后選擇一條最穩妥、最可信的路徑。
研究團隊用熵作為模型不確定性的衡量標準：熵越高越不可信。在自然語言處理（NLP）中，困惑度（perplexity）越低代表對答案越可信。因此在 CNTP 策略下，一旦熵值較高，模型會采樣多個候選路徑，并選擇其中困惑度最低的一條，再一步步迭代。
研究人員通過消融研究證明，由于思維鏈推理的回答往往較長，每條路徑長度也不同，如果算完整評估的困惑度無法很好地衡量答案的可靠性。基于此，他們采取了每到一句話的標點符號截止的方式來計算困惑度。相當于每句話、每個小的推理單元，即每個局部自洽能夠實現較理想的效果。
為控制采樣次數，研究團隊通過設置最小熵 Hmin 和最大熵 Hmax 兩個閾值和最大試驗次數 Nmax。該方法在提高解碼準確性的同時，還有效地限制了計算成本，避免了在每個步驟大量采樣而帶來的高計算開銷。
（來源：arXiv）
在實驗驗證方面，該團隊在數學推理（GSM8K、MATH）、常識推理（StrategyQA）和開放問答（TruthfulQA）等任務中證明，與包括貪婪解碼、隨機解碼和束搜索在內的傳統方法相比，CNTP 策略的結果更具優勢。
例如，在 TruthfulQA 任務中，Llama-2-7B 在使用 CNTP 方法后，真實性準確率提升到了 84.8%，相較于隨機解碼提升 6.8%。
值得關注的是，CNTP 策略無需訓練，僅解碼即可直接實現提升性能。王亦周解釋道：這種方法在某種程度上像“免費午餐”，盡管可能會帶來更多的 token 消耗，但在實際應用中有很多優化的方法可解決該問題。
（來源：arXiv）
此外，該方法搭配自一致性（self-consistency）后，可進一步提升性能（注：自一致性是取多個樣本，然后選一個出現頻率最高的答案），且計算成本遠低于后者。原因在于，利用多樣性和隨機性集思廣益后，選取多數投票。
研究團隊證明，每個樣本也是越謹慎越好?！拔覀兊姆椒〞谝欢ǔ潭壬舷拗扑亩鄻有裕ㄟ^調高溫度可以解決這一點，所以它能進一步提升。”王亦周說。
此外，CNTP 策略具有較好的普適性，可用于廣泛的對話任務。除了有固定答案的數學題或代碼題，它也可以用于開放式問題，研究團隊未來將嘗試將該策略用于圖像或視頻生成。
該研究為大模型的推理優化提供了一種新思路，有望成為下一代解碼策略的重要候選方案。
參考資料：
1.相關論文：https://arxiv.org/abs/2507.03038v2
2.code link：https://github.com/wyzjack/CNTP
排版：劉雅坤
特別聲明：以上內容(如有圖片或視頻亦包括在內)為自媒體平臺“網易號”用戶上傳并發布，本平臺僅提供信息存儲服務。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.
極目新聞
