AI 防唬爛懶人包:
七招官方方法,讓 Claude 不再唬你
AI 最危險的地方不是它會錯,是它錯得很有自信。它不會跟你說「我不知道」,而是編一段很順、很專業、聽起來比真話還像真話的東西。下面七招全部來自 Anthropic 官方文件,零安裝、免費版就能用——你今天就能回去把上一個對話重問一次。
先給它認輸的出口
查不到就直接說查不到,我不會怪你。猜的部分要標明是猜的。
官方招名 · Allow Claude to say "I don't know"
官方原話:明確允許 Claude 承認不確定,能「大幅」減少假資訊。它硬掰,常常只是因為覺得不准空手回來。
先抓原文,再作答
先把相關的原句逐字貼出來,再回答我。
官方招名 · Use direct quotes for factual grounding
丟一份長文件給它的時候特別有效。官方建議超過兩萬字的文件一律先抽原文——編故事編得出來,編不出原文。
附不出出處的,撤回
每個結論都要附上原文。附不出來的,撤回那句話。
官方招名 · Verify with citations
七招裡最狠的一招。官方寫得很直白:讓它產出答案後,回頭為每個主張找支持的引文——找不到,就必須收回那個主張。
叫它先想,再答
先一步一步說出你的推理,最後才給答案。
官方招名 · Chain-of-thought verification
它嘴上講得很順,但推理攤開會露餡。它給你「聽起來很專業」的長篇大論時,這招最有用。
同一題,問三次
(開三個新的對話,貼一模一樣的問題,然後比對三次的答案。)
官方招名 · Best-of-N verification
答案不一樣 = 它在唬。它知道的東西,講幾次都一樣;它不知道的東西,每次編的都不同。最反直覺的一招,但一測就見真章。
拿它的答案,再問它一次
這是你剛才的回答。現在假裝你是要來打臉這個答案的人,挑出最可能錯的地方。
官方招名 · Iterative refinement
同一個 AI,換一個立場,會把自己剛剛的破綻抓出來。把它的輸出貼回去當輸入,官方叫這個 iterative refinement。
只准用我給的資料
只能用我貼的資料回答,不准用你自己的知識。如果資料裡沒有,就說資料裡沒有。
官方招名 · External knowledge restriction
把它的想像力關掉。整理合約、報告、財報、不要它自由發揮的時候,這句是保險。官方稱為 external knowledge restriction。
出處
這七招全部來自 Anthropic 官方文件。原文(英文):
Anthropic 官方文件 · Reduce hallucinations ↗