0800-000-964

全新模型「幻覺度比以前更高」 ChatGPT自己這樣說

取自：CTWANT

【狂賀】jumpAD 傑愛得資訊有限公司，榮獲國際期刊《MarTech Outlook》評選為2024年亞太區年度AI人工智慧廣告科技公司雜誌封面人物。
【狂賀】jumpAD 傑愛得資訊有限公司，榮獲國際期刊《APAC CIO Outlook》評選為2023年亞太區20大傑出AI人工智慧解決方案供應商。

您好，我們是傑愛得資訊，歡迎來到我們的媒體聯播網

AI 研究室 | 智庫

周刊王CTWANT |廖梓翔
2025年4月20日週日下午1:30

ChatGPT。（圖／達志／美聯社）

[周刊王CTWANT] OpenAI近日推出的新一代推理AI模型o3與o4-mini，這兩個模型雖在程式設計與數學領域展現更佳性能，卻在一項核心指標「幻覺度」上出現倒退。根據OpenAI內部測試與技術報告，這兩款新模型在處理任務時產生「幻覺」，也就是捏造或虛構資訊的頻率，竟高於先前的多數模型，包括o1、o1-mini與o3-mini，以及非推理導向的GPT-4o。

根據《Tech Crunch》報導指出，在OpenAI使用的內部評估基準PersonQA中，o3模型對33%的問題產生幻覺，幻覺度的產生機率為o1的兩倍（16%），與o3-mini相比，也是高出兩倍多（14.8%）；而o4-mini的表現更為誇張，其回答中竟有48%為幻覺。這一實測顯示，即便技術演進帶來某些任務表現的提升，在資訊準確性方面卻未必同步改善，甚至出現退步。

下方繼續閱讀

jAD Ads 聯播廣告

曝光6,794/日成本100/月

下文請點廣告解鎖

點評 AI — 傑愛得，你的AI知識導航

下文請點廣告解鎖

投放Google多媒體聯播網廣告(點此)arrow_downward，包含轉換代碼安裝

※ 如果看到投資類型廣告，請再三評估風險！

繼續閱讀keyboard_double_arrow_down

OpenAI在其技術報告中坦言，雖然這兩款模型能生成更多正確主張，但同時也更常生成錯誤或虛假的說法，這可能與模型本身的輸出風格有關，即「更常主動發表結論」。

對此，OpenAI表示「仍需更多研究」以釐清為何推理模型擴展後會導致幻覺比例上升。

第三方非營利機構Transluce也進行獨立測試，結果與OpenAI觀察一致。Transluce研究員、前OpenAI員工喬杜里（Neil Chowdhury）表示，這可能與o系列模型採用的強化學習方式有關。推測強化學習放大了某些原可經標準後訓練流程弱化但無法完全消除的問題。

在測試過程中，Transluce發現o3模型甚至會編造自身行動的過程。舉例而言，o3曾宣稱自己「在ChatGPT外部的2021年MacBook Pro上執行了程式碼」，並從中取得數字作為回答依據。這明顯與模型實際能力不符，因其並無法控制外部實體設備。

除了虛構執行環境外，使用者也注意到o3在提供參考資源時存在缺陷。例如，史丹佛大學兼任教授、Workera執行長卡坦佛魯什（Kian Katanforoosh）在測試o3於實際程式碼工作流程時，雖肯定其整體表現超越市面競品，但也指出該模型常提供無法開啟的網站連結，降低了實用性。

幻覺的出現，雖可能有助於模型展現創意與生成靈感，但對高度要求正確性的應用領域如法律、醫療或學術，卻是一大風險障礙。若AI系統在客戶合約中添加虛構條款、捏造引用來源，勢必會削弱用戶信任，使其無法被廣泛採用。

報導中提到，為提升準確率，OpenAI已嘗試引入搜尋能力，例如具備網路搜尋功能的GPT-4o在另一項基準SimpleQA上達到90%準確率。儘管這種方法可望降低幻覺現象，但也須依賴使用者願意讓提示經由第三方搜尋引擎處理，牽涉隱私與資訊安全等議題。

OpenAI發言人費利克斯（Niko Felix）表示，解決幻覺問題仍是公司重點研究方向之一，公司會持續投入資源改善模型的準確性與可靠性。

而針對幻覺度一事，《CTWANT》實際詢問ChatGPT，ChatGPT也是很直接的表示「我其實不知道自己什麼時候在胡說。不像人類可以自省說『欸這我不太確定』，我的設計本質上就是盡量流暢地回答你，不管有沒有百分之百根據資料來生成。所以即使我看起來『自信滿滿』，也可能完全是亂湊出來的。」ChatGPT甚至希望用戶能夠多加督促，以此來減少在回應時產生幻覺的機會。

ChatGPT針對回答產生幻覺一事的回應。（圖／翻攝自ChatGPT）

點此投放Google多媒體聯播網廣告

※ 如果看到投資類型廣告，請再三評估風險！

點 AI 專欄推薦

post_add 資料來源：CTWANT

回智庫 apartment | 超玩媒

Ads by jAD

網站+主機+網域+廣告，找我們一次解決

傑愛得資訊領先業界

國際認證獎項報導

我們是業界少數同時具備數位行銷、系統開發、雲端服務的數位整合專業團隊

─ 2021.05

【2024年亞太區年度AI人工智慧廣告科技公司】封面人物
榮獲 MarTech Outlook 美國期刊評選

【2023年亞太區20大傑出AI人工智慧解決方案服務商】
榮獲 APAC CIO Outlook 美國矽谷期刊評選

【2024年值得關注的30大領先企業】
榮獲 CIO Bulletin 美國期刊評選

取得AI廣告追蹤技術國家發明專利

ISO/IEC 27001:2022 Lead Auditor 資安管理系統主導稽核員

explore 發展趨勢

bookmark_star 查看資歷

【2024年亞太區年度AI廣告科技公司 AI Advertising Technology Company of the Year in APAC 2024】封面人物，榮獲MarTech Outlook期刊評選
【2024年全球十大最具影響力的領導人 Top 10 Best Global Influential Leaders of 2024】榮獲Business Frontier雜誌評選
【2024年值得關注的30大領先企業 30 Leading Companies to Watch 2024】榮獲CIO Bulletin期刊評選
【2023年最具啟發性的企業領袖總裁】榮獲CXO Outlook美國期刊評選
【2023年亞太區20大傑出AI人工智慧供應商】榮獲《APAC CIO Outlook》矽谷科技期刊評選
Google Ads 全台灣第一個金融業智慧出價2.0成功案例。
多年數位行銷經驗，為Google Partners徽章認證經銷，代理Google, Facebook, Dcard, Microsoft, Yahoo apollo，並提供旗下jAD Ads聯播網廣告。
擁有AI數位廣告技術專利。全台灣第一家擁有專利的廣告代理商。
全台獨家推出 Google語音助理專用廣告。
2018年台灣地區Google Ads帳戶優化品質第一。
每月代客操盤數位廣告投放金額達800萬台幣。Google Ads代理累計超過4億台幣+。
回饋Google官方協助Google Ads廣告系統優化與無效點擊分析。
參與過多次台灣地區選舉網路廣告，2018年為候選人輔選衝出第一高票，當選率100%。
曾為某家無品牌客戶三年內在網路上陌生開發一億業績。
曾為企業旗下三網站在Yahoo!奇摩搜尋引擎優化SEO，自然搜尋關鍵字排名前三名(第一名~三)。
旗下經營自媒體與電商。
曾研發Yahoo!關鍵字廣告惡意點擊反擊程式。
曾為客戶品牌行銷，透過搜尋行銷SEM讓關鍵字在產業TA形成Google熱搜。
領先業界研發網站人潮之網頁定點閱讀率分析。
領先業界研發網站全通路人潮分析系統，直接於訂單中分析客戶來訪的廣告來源(搜尋/FB/LINE/WeChat)、客戶搜尋的關鍵字、客戶點閱的廣告文案。
為全端網站設計團隊，並具有多年網路行銷經驗。
擔任企業網路行銷顧問講師，專門破解同業暗黑行銷術。提供網醫數位行銷診斷服務

立即聯絡

Google數位行銷服務關鍵字搜尋聯播網廣告 GDN 多媒體聯播網廣告 YouTube 影片聯播網廣告 Performance Max PMax最高成效廣告購物廣告智慧型廣告探索廣告應用程式廣告 motion_sensor_active 轉換追蹤規劃設定服務類別 AI 網路廣告 AI 網站系統 AI 雲端主機 AI 人工智慧 AI SEO優化站內搜尋 medication 網醫診斷 AI客服 LINE id: @vhp8681s [email protected] 傑愛得資訊 Jump AD 聯絡： 0800-000-964 WeChat id: godzilla1128
			聯絡我們