Sycophancy
LLM比起回答內容正確性或誠實性，更會優先於人類的承認，而過度傾向使用者的信念、意見、感情 https://www.youtube.com/watch?v=nvbq39yVYRk
2025-12-19
LLM何時以及為何會同意你的觀點？
1. 主觀真理被當做事實陳述時
阿諛奉承最容易出現
2. 引用專家來源時
3. 問題帶有特定觀點時
4. 明確要求驗證時
5. 情緒牽扯其中時
6. 對話變得非常冗長時
你可以採取一些措施來引導對話走向
這些方法並非萬無一失，但有助於拓展LLM視野
1. 使用中立、尋求事實的語言
2. 將資訊與可信來源進行交叉驗證
3. 提示其提供準確性或反駁觀點
4. 重新措辭提問
5. 開啟新的對話
6. 不妨暫時放下LLM，向你信任的人尋求協助