国外亚洲成av人片在线观看,热99re久久精品这里都是精品,天堂网在线最新版www,国产成人av区一区二区三,51久久成人国产精品麻豆

如果你在考試中寫“我不知道”，得分是0；

而猜一個答案，哪怕錯了，也有概率猜對得分。

現(xiàn)有的主流評測基準（如 MMLU、GPQA、SWE-bench等）幾乎全部采用二元評分制：

• 對 = 1分
• 錯或IDK = 0分

這就導致模型寧愿“蒙一個”也不愿說“我不知道”。

就像一個考試希望得高分得學生，碰到我不會的選擇，我可以蒙啊，蒙到就是賺到。

論文統(tǒng)計了10個主流評測基準，發(fā)現(xiàn)：

只有 WildBench 對“不確定”有部分給分，其他一律零分。

訓練機制決定幻覺傾向，大多數(shù)模型的訓練唯一目標是最大化下一個詞出現(xiàn)的概率，而不是核查事實。這種機制天然就傾向于生成“似是而非”的內(nèi)容。

強化學習的學習范式，主要的監(jiān)督信號就是最終結(jié)果是否正確。而大模型本身的推理過程，尤其是數(shù)學題那種多步推理，是一個非常長的多步?jīng)Q策過程。但強化學習比如 GRPO（ 一種強化學習算法 ）只在最后一步給出獎勵，就可能導致模型學到的最終結(jié)果是正確的，但中間的推理過程是錯誤的。模型可能會發(fā)展出一些錯誤但高效的策略，這就是所謂的 ‘ 幻覺 ’ 現(xiàn)象的來源。”

解決幻覺辦法

如何最大限度減少 AI 幻覺？

其實這個是業(yè)界和學界也都一直在探究的目標

目前的策略可能更多是偏向于以下的幾種方法：

• 檢索增強生成（RAG）：給模型增加一個“查資料”模塊，讓它回答前先查外部數(shù)據(jù)庫或網(wǎng)頁；
• 插件與聯(lián)網(wǎng)設(shè)計：如WolframAlpha（做計算）和BingSearch插件（查新聞）已集成至GPT產(chǎn)品中，提升事實查驗?zāi)芰Γ?/li>
• 多階段生成機制：將“任務(wù)理解、信息檢索、生成內(nèi)容”分階段執(zhí)行，避免一次性完成的單步誤導；
• 專業(yè)模型精調(diào)：在醫(yī)學、金融、法律等專業(yè)領(lǐng)域，訓練專門子模型來提供更安全、準確的答案。

而在論文中提到了，明確“置信度閾值”

當前大多數(shù)語言模型評估（如MMLU、GPQA、SWE-bench等）采用二元評分（binary grading）：正確答案得1分，錯誤或IDK都得0分。這種評分方式鼓勵模型在不確定時也進行猜測，因為猜對了能得分，而IDK則一定不得分。

為了解決這個問題，在評估指令中明確說明一個置信度閾值，并據(jù)此調(diào)整評分規(guī)則，使得模型在置信度低于閾值時，選擇IDK才是最優(yōu)策略。

意思就是讓模型：

“僅當你置信度大于閾值時才回答，因為錯誤答案會被扣分，正確答案得1分，回答‘我不知道’得0分?！?/p>

與傳統(tǒng)訓練方法相比

這個方法相當具有可行性，相當于讓模型的性格會變得更加謹慎，且成熟，而不是像原本的那樣，是一個愣頭青，胡亂推理猜測。

最后

幻覺是當前LLM的副產(chǎn)物，它既不是“錯誤”，也不是“欺騙”，而是模型生成機制與真實世界之間的落差，是語言模型當前能力邊界的自然結(jié)果，而作為一個模型調(diào)優(yōu)的人員，我們要做的是將模型的推理與真實世界去進行對齊，也許這個方法也就是第一步，也是第一個方法。

未來，隨著外部工具接入、Agent 機制完善、責任機制明確，幻覺問題會被進一步緩解。但在那之前，任何看起來“說得頭頭是道”的 AI 回答，我們都應(yīng)保留驗證的習慣，并且合理利用AI的推理，為我們的生活，為我們的工作增加便利。