家族群組每天都在轉：某某食物吃了會致癌、某某地方出事了、某某政策明天上路。你心裡覺得怪怪的，直接把整段複製給 AI，問一句「這是真的嗎？」，它回你一段講得頭頭是道的答案——但那段答案，很可能也是它猜的。這篇整理一份研究講的「AI 為什麼會猜」，以及把「這是真的嗎」換成哪 3 句問法，才問得出你能拿去跟家人講的東西。
先搞懂一件事：AI 不確定的時候，寧可猜也不想說「不知道」
2025 年 9 月 4 日，一篇由 Adam Tauman Kalai、Ofir Nachum、Santosh S. Vempala、Edwin Zhang 掛名的研究論文〈Why Language Models Hallucinate〉（為什麼語言模型會產生幻覺）公開在 arXiv 上，OpenAI 官網也放了對應的說明頁。它開頭第一句就把整件事講白了：
「Like students facing hard exam questions, large language models sometimes guess when uncertain, producing plausible yet incorrect statements instead of admitting uncertainty.」
（就像學生碰到不會的考題，大型語言模型在不確定的時候會用猜的，產出聽起來合理、實際上錯誤的說法，而不是承認自己不確定。）
為什麼會這樣？論文的說法是：問題不在模型笨，在評分方式。目前大多數評測就像一張是非選擇題考卷——空白得 0 分，猜對有分。模型被優化成「很會考試的考生」，那麼在不確定的時候，猜，本來就比說「我不知道」划算。研究團隊也直接點名解方：與其再多做幾個抓幻覺的測驗，不如去改現有主流評測的計分方式，別再懲罰「說不確定」的回答。
這件事對你我的意義很直接：你丟一個是非題給 AI，就是在逼它交出一個是或否。「這則訊息是真的嗎？」正是最標準的是非題。它答錯的機率，不是因為它壞，是因為你出的題型剛好逼它猜。
換個題型：把「判斷題」改成「整理題」
AI 真正強的地方，是整理跟拆解，不是當法官。所以查證的第一步，是把它從「裁判」的位置拉回「助理」的位置。下面三句，照順序丟，一句一句來，不要一次全部貼上去。
第 1 句：「把這段訊息裡『可以被查證的具體主張』列出來，哪些只是情緒用語也標出來」
先不要問真假，先要它拆。一則典型的群組訊息，通常長這樣：「聽說最近很多人因為 X 出事，醫生都不敢講，快傳給你關心的人！」把它拆開之後你會發現，真正能查的只有「很多人因為 X 出事」這一句，其他都是「聽說」「醫生都不敢講」「快傳給關心的人」——這些不是事實，是催你轉發的按鈕。
光是這一步就先過濾掉一半。很多假訊息之所以有效，就是把一顆很小的事實包在一堆情緒詞裡；拆開之後，那顆事實常常小到根本撐不起標題。
第 2 句：「每一點請附出處的機構名稱與日期。找不到就直接說找不到，不要推測」
這句話是整篇的關鍵，它做的事情正好呼應上面那篇論文：你要主動把「說不知道」變成一個被允許、甚至被要求的答案。不下這句話，模型預設就是要交卷；下了這句，它才有台階可以說「這一點我查不到公開出處」。
而「找不到」本身就是超有價值的答案。一則講得像天要塌下來的訊息，如果連機構名稱跟日期都湊不出來，那它幾乎已經回答你了。
第 3 句：「如果這是假的，最可能是用哪一種手法？幫我寫成三句話，我要講給長輩聽」
前兩句是查資料，這句是把查完的東西變成你講得出口的話。假訊息的手法其實就那幾種：舊聞新炒（三年前的新聞把日期拿掉重貼）、移花接木（真的照片配假的說明）、斷章取義（官方講了五句只截一句）、身份借用（假冒某某醫師、某某單位）。讓 AI 直接告訴你這則屬於哪一種，你在群組裡回的就不是「這假的啦」，而是「這張圖其實是 2019 年的，你看這裡」。
這也是我自己覺得最重要的一句。查得出真假是一回事，能不能好好講出來、對方願不願意聽，是另一回事。
轉來的是圖片或影片？有一個官方功能專門查這個
文字還能拆，圖最難辦——一張看起來很慘烈的現場照，配上一句聳動的說明，殺傷力最強。這種時候不要問 AI「這張圖是真的嗎」，改用 Google 內建的「關於本圖片」。
依照 Google 官方說明頁〈進一步瞭解圖片〉的描述，這個功能會告訴你三件事：
- 「Google 首次偵測到該圖片或類似圖片的時間」——這一條專門用來抓「舊圖新用」。訊息說是昨天發生的，圖片卻在三年前就出現在網路上，答案就出來了。
- 「含有該圖片或類似圖片的公開網路搜尋結果」——看看有哪些網站用過這張圖、當初是配什麼說明，就知道有沒有被移花接木。
- 圖片本身的詳細資料，官方說明裡明確寫到會呈現「圖片是以相機拍攝，還是由 AI 生成」。
開啟方式官方也寫得很清楚：在 Google 圖片搜尋開啟圖片檢視器後選取「關於本圖片」；用 Google Lens 的話，「向上滑動即可查看更多結果。在搜尋列下方，選取『關於本圖片』分頁標籤」。手機上長按圖片、用 Lens 搜一下，十秒鐘的事。
最後一關：交給真的在做查核的人
AI 幫你拆完、Google 幫你看完圖，還是拿不定主意的話，就去看專門在做這件事的機構。台灣的台灣事實查核中心（TFC）是通過 IFCN（International Fact-Checking Network，國際事實查核聯盟）認證的組織，網站上持續更新查核報告——以我寫這篇的前一天為例，8 月 10 日就有數則新的查核報告上線。他們也有 LINE 官方帳號，長輩最習慣的介面就是 LINE，把帳號加給爸媽，比你在群組裡打十句還有用。
順序記起來就好：AI 負責拆解跟整理 → Google「關於本圖片」負責驗圖 → 查核機構負責定案。三個角色不要互相取代。
我自己的做法：與其叫 AI「去查」，不如指定它「去哪查」
我平常的工作是做教育訓練，把新科技翻成第一線同仁跟企業內部同仁聽得懂的話。這幾年帶 AI 課帶下來，我最常講的一句提醒是：AI 給你的答案，要能點得開來源。點不開的，就當它沒說。
最近我在玩 Gemini 的 Spark（Google 的雲端 AI Agent），拿它做的第一件事就是這個邏輯：我沒有叫它「幫我找最近的科技新聞」，而是直接把原廠與電信業者的官方新聞中心網址列給它，請它每天定時去這幾個明確的來源整理重點、回報給我。差別在哪？前者是讓它在整片網海裡撈，撈到什麼算什麼；後者是我先框好可信的來源，它只做整理。
查群組訊息也是同一件事的縮小版。「這是真的嗎」＝叫它去網海裡撈；「拆給我看、附出處、查不到就說查不到」＝我框好規則，它做它擅長的整理。同一個工具，換個問法，結果完全不同等級。
套用前，有幾點要注意
- AI 不是查核機構，它給的連結也可能是編的。拿到出處一定要真的點開來看，網址存在、機構對得上、日期對得上，三個都成立才算數。點不開的連結，等於沒有這個出處。
- 不是每個回覆都有來源。Google 官方在 Gemini 說明頁寫得很直接：「並不是每個回覆都有相關連結或來源。如果回覆下方沒有『來源』按鈕，就表示 Gemini 應用程式對這個回覆沒有提供任何連結。」沒有來源按鈕，就是沒有，不要自己腦補。
- 查得出來，不代表要在群組吵贏。目的不是證明長輩錯了，是讓他下次少被騙一次。第 3 句問法之所以要「寫成三句話講給長輩聽」，就是為了這個。
- 個資先遮。訊息裡如果有電話、地址、身分證字號、對話截圖裡的真實姓名，貼進 AI 之前先塗掉，這是自己的資料，別順手送出去。
小結
群組訊息不會變少，只會越來越像真的——尤其在圖片和影片都能生成的現在。與其練成火眼金睛，不如把流程固定下來：不問真假，先拆主張；要求出處，允許它說不知道；圖片交給「關於本圖片」；最後對一次查核中心。四個動作，加起來不用五分鐘。
下次群組再跳出一則紅色驚嘆號開頭的訊息，先別急著回，也先別急著轉。你多花的那五分鐘，可能就是家裡少一次被騙的分岔點。
本文整理改寫自：
- Adam Tauman Kalai、Ofir Nachum、Santosh S. Vempala、Edwin Zhang，〈Why Language Models Hallucinate〉，arXiv:2509.04664，2025 年 9 月 4 日提交（arXiv 原文；OpenAI 官方說明頁：Why language models hallucinate）
- Google 搜尋說明，〈進一步瞭解圖片〉（官方說明頁）
- Gemini 系列應用程式說明，〈查看相關來源並仔細檢查 Gemini 系列應用程式的回覆內容〉（官方說明頁）
- 台灣事實查核中心（IFCN 認證查核組織，官方網站）
留言
張貼留言