AI 防唬爛懶人包

AI 防唬爛懶人包:
七招官方方法,讓 Claude 不再唬你

AI 最危險的地方不是它會錯,是它錯得很有自信。它不會跟你說「我不知道」,而是編一段很順、很專業、聽起來比真話還像真話的東西。下面七招全部來自 Anthropic 官方文件,零安裝、免費版就能用——你今天就能回去把上一個對話重問一次。

01

先給它認輸的出口

複製這句

查不到就直接說查不到,我不會怪你。猜的部分要標明是猜的。

官方招名 · Allow Claude to say "I don't know"

官方原話:明確允許 Claude 承認不確定,能「大幅」減少假資訊。它硬掰,常常只是因為覺得不准空手回來。

02

先抓原文,再作答

複製這句

先把相關的原句逐字貼出來,再回答我。

官方招名 · Use direct quotes for factual grounding

丟一份長文件給它的時候特別有效。官方建議超過兩萬字的文件一律先抽原文——編故事編得出來,編不出原文。

03

附不出出處的,撤回

複製這句

每個結論都要附上原文。附不出來的,撤回那句話。

官方招名 · Verify with citations

七招裡最狠的一招。官方寫得很直白:讓它產出答案後,回頭為每個主張找支持的引文——找不到,就必須收回那個主張。

04

叫它先想,再答

複製這句

先一步一步說出你的推理,最後才給答案。

官方招名 · Chain-of-thought verification

它嘴上講得很順,但推理攤開會露餡。它給你「聽起來很專業」的長篇大論時,這招最有用。

05

同一題,問三次

複製這句

(開三個新的對話,貼一模一樣的問題,然後比對三次的答案。)

官方招名 · Best-of-N verification

答案不一樣 = 它在唬。它知道的東西,講幾次都一樣;它不知道的東西,每次編的都不同。最反直覺的一招,但一測就見真章。

06

拿它的答案,再問它一次

複製這句

這是你剛才的回答。現在假裝你是要來打臉這個答案的人,挑出最可能錯的地方。

官方招名 · Iterative refinement

同一個 AI,換一個立場,會把自己剛剛的破綻抓出來。把它的輸出貼回去當輸入,官方叫這個 iterative refinement。

07

只准用我給的資料

複製這句

只能用我貼的資料回答,不准用你自己的知識。如果資料裡沒有,就說資料裡沒有。

官方招名 · External knowledge restriction

把它的想像力關掉。整理合約、報告、財報、不要它自由發揮的時候,這句是保險。官方稱為 external knowledge restriction。

出處

這七招全部來自 Anthropic 官方文件。原文(英文):
Anthropic 官方文件 · Reduce hallucinations ↗

用了幾天,
你會發現一個問題。

這幾句,你每次都要重打一遍。
「讓 AI 永遠記得這些規矩,不用你每次講」——
那是下一層的事。

追蹤 Instagram →
AILUHO / ai.lulives.com