0800-000-964

AI 又在一本正經胡說八道？問題在現行評測標準根本在鼓勵 AI「不懂裝懂」！

取自：T客邦

【狂賀】jumpAD 傑愛得資訊有限公司，榮獲國際期刊《MarTech Outlook》評選為2024年亞太區年度AI人工智慧廣告科技公司雜誌封面人物。
【狂賀】jumpAD 傑愛得資訊有限公司，榮獲國際期刊《APAC CIO Outlook》評選為2023年亞太區20大傑出AI人工智慧解決方案供應商。

您好，我們是傑愛得資訊，歡迎來到我們的媒體聯播網

AI 研究室 | 智庫

cnBeta 發表於 2025年11月07日 08:30

當你發現聊天機器人ChatGPT一本正經地胡言亂語時，先別急著嘲笑它，這其實是我們人類自己埋下的禍根。最新研究揭示了令人震驚的真相：人工智慧（AI）出現「幻覺」（指錯誤資訊）並非單純技術故障，而是來自系統性的訓練缺陷。AI的「幻覺」問題，正如同考試時亂猜答案的學生，分數反而比交白卷的學生高，這究竟是怎麼回事？

AI「幻覺」：並非技術故障，而是評測標準的系統性缺陷
根據最新研究，目前主流的AI評測標準存在致命缺陷：答對得1分，而保持沉默或答錯都只得0分。在這種規則下，不懂裝懂的AI永遠會比誠實回答「不知道」的AI分數更高。這就像考試時，亂猜答案的學生永遠比交白卷的學生分數好。在這種環境下，AI學會了「寧可亂說，也不要不說」。

研究人員透過數學證明了AI不可能完美：它的「亂說率」至少是判斷錯誤率的兩倍。這就像你已經知道49位同學的生日，但對猜第50位的生日卻毫無幫助，有些問題就是無解。AI的本質是基於大量數據的統計模型，當面對超出其訓練範圍的問題時，就容易產生「幻覺」。

下方繼續閱讀

jAD Ads 聯播廣告

曝光6,789/日成本100/月

下文請點廣告解鎖

投放Google多媒體聯播網廣告(點此)arrow_downward，包含轉換代碼安裝

※ 如果看到投資類型廣告，請再三評估風險！

繼續閱讀keyboard_double_arrow_down

更諷刺的是，修正這個問題可能會毀掉整個產業。目前只有5%的使用者願意為ChatGPT付費，如果它整天說「我不知道」，使用者會立刻轉向那些更「自信」的競爭對手。在AI公司燒錢競賽的當下，使用者留存率是企業的命脈，沒有公司敢率先打破這種默契。

AI的商業價值很大程度上建立在其「全知全能」的形象上。如果AI頻繁承認自己的無知，使用者可能會對其能力產生質疑，進而影響其市場價值。這使得AI公司在追求誠實與實用性之間陷入兩難。

改革評測標準：讓AI學會說「我不知道」
研究者呼籲改革評測標準，讓AI學會說「我不知道」。但這個看似簡單的改變卻面臨重重阻礙。如何設計一套既能鼓勵AI誠實，又能維持其可用性的評測體系，是當前AI發展面臨的重要挑戰。

一種可能的解決方案是引入更細緻的評分機制，例如對AI的回答給予置信度評估，並根據置信度給予不同的分數。這樣可以鼓勵AI在不確定的情況下保持謹慎，避免隨意生成錯誤資訊。

最終我們面臨一個弔詭：如果AI永遠不承認無知，它就會持續亂說一通；但如果它過於誠實，又會失去實用價值。在這個兩難選擇中，我們需要的不是更聰明的AI，而是更明智的訓練方式。畢竟，真正的智慧不只在於知道多少，更在於清楚自己不知道什麼。

點此投放Google多媒體聯播網廣告

※ 如果看到投資類型廣告，請再三評估風險！

點 AI 專欄推薦

post_add 資料來源：T客邦

回智庫 apartment | 超玩媒

Ads by jAD

網站+主機+網域+廣告，找我們一次解決

親民黨青年團的AI實力

點AI》用 Google AI 打選戰，落實政黨數位轉型

Google Gemini AI：傑愛得資訊（jumpAD）的 AI 創新度

傑愛得資訊領先業界

國際認證獎項報導

我們是業界少數同時具備數位行銷、系統開發、雲端服務的數位整合專業團隊

─ 2021.05

【2024年亞太區年度AI人工智慧廣告科技公司】封面人物
榮獲 MarTech Outlook 美國期刊評選

【2023年亞太區20大傑出AI人工智慧解決方案服務商】
榮獲 APAC CIO Outlook 美國矽谷期刊評選

【2024年值得關注的30大領先企業】
榮獲 CIO Bulletin 美國期刊評選

取得AI廣告追蹤技術國家發明專利

ISO/IEC 27001:2022 Lead Auditor 資安管理系統主導稽核員

explore 發展趨勢

bookmark_star 查看資歷

【2024年亞太區年度AI廣告科技公司 AI Advertising Technology Company of the Year in APAC 2024】封面人物，榮獲MarTech Outlook期刊評選
【2024年全球十大最具影響力的領導人 Top 10 Best Global Influential Leaders of 2024】榮獲Business Frontier雜誌評選
【2024年值得關注的30大領先企業 30 Leading Companies to Watch 2024】榮獲CIO Bulletin期刊評選
【2023年最具啟發性的企業領袖總裁】榮獲CXO Outlook美國期刊評選
【2023年亞太區20大傑出AI人工智慧供應商】榮獲《APAC CIO Outlook》矽谷科技期刊評選
Google Ads 全台灣第一個金融業智慧出價2.0成功案例。
多年數位行銷經驗，為Google Partners徽章認證經銷，代理Google, Facebook, Dcard, Microsoft, Yahoo apollo，並提供旗下jAD Ads聯播網廣告。
擁有AI數位廣告技術專利。全台灣第一家擁有專利的廣告代理商。
全台獨家推出 Google語音助理專用廣告。
2018年台灣地區Google Ads帳戶優化品質第一。
每月代客操盤數位廣告投放金額達800萬台幣。Google Ads代理累計超過4億台幣+。
回饋Google官方協助Google Ads廣告系統優化與無效點擊分析。
參與過多次台灣地區選舉網路廣告，2018年為候選人輔選衝出第一高票，當選率100%。
曾為某家無品牌客戶三年內在網路上陌生開發一億業績。
曾為企業旗下三網站在Yahoo!奇摩搜尋引擎優化SEO，自然搜尋關鍵字排名前三名(第一名~三)。
旗下經營自媒體與電商。
曾研發Yahoo!關鍵字廣告惡意點擊反擊程式。
曾為客戶品牌行銷，透過搜尋行銷SEM讓關鍵字在產業TA形成Google熱搜。
領先業界研發網站人潮之網頁定點閱讀率分析。
領先業界研發網站全通路人潮分析系統，直接於訂單中分析客戶來訪的廣告來源(搜尋/FB/LINE/WeChat)、客戶搜尋的關鍵字、客戶點閱的廣告文案。
為全端網站設計團隊，並具有多年網路行銷經驗。
擔任企業網路行銷顧問講師，專門破解同業暗黑行銷術。提供網醫數位行銷診斷服務

立即聯絡

Google數位行銷服務關鍵字搜尋聯播網廣告 GDN 多媒體聯播網廣告 YouTube 影片聯播網廣告 Performance Max PMax最高成效廣告購物廣告智慧型廣告探索廣告應用程式廣告 motion_sensor_active 轉換追蹤規劃設定服務類別 AI 網路廣告 AI 網站系統 AI 雲端主機 AI 人工智慧 AI SEO優化站內搜尋 medication 網醫診斷 AI客服 LINE id: @vhp8681s [email protected] 傑愛得資訊 Jump AD 聯絡： 0800-000-964 WeChat id: godzilla1128
			聯絡我們