AI 亂講怎麼辦

這是整個階段二最重要的一課：AI 會一本正經地講錯話。這個現象有個名字，叫「幻覺」。

為什麼會這樣

回想第 2 課的比喻 —— AI 像一隻很會接話的鸚鵡。它擅長的是「講出聽起來最合理的下一句」，不是「保證正確」。所以當它不知道時，常常不會說「我不知道」，而是流暢地編一個看起來很對的答案。

最危險的地方就在這：它錯得很有自信，語氣跟答對時一模一樣。

哪些情況特別要小心

• 精確數字、日期、法條、報價：很容易被它「湊」出來。
• 冷門人事物、本地資訊：資料少，越容易亂編。
• 「幫我找出處／連結」：它可能生出看似真實、其實不存在的來源。

三個查證習慣

1. 重要的事，一定二次確認：牽涉錢、健康、法律、對外發布的，去原始來源核對。
2. 反問它：「這個數字的依據是什麼？有不確定的地方嗎？」逼它把不確定講出來。
3. 把它當初稿，不是定稿：它負責給你草稿和方向，判斷與負責的是你。

今天的行動

故意問它一個你很熟、但有點冷門的問題（例如你家鄉的某件事），看它會不會講錯。親眼看過一次，你就會記得一輩子。

下一步：反過來，怎麼讓 AI 真的聽懂你 —— 給範例、給角色、給限制。