聊天品質常見問題
聊天過程中「AI 怪怪的」?回覆斷掉、角色失憶、一直重複、不像人設、冒出英文或簡體,找到你遇到的問題,按說明調整就好。
回覆講到一半斷掉
AI 的回覆被「截斷」,句子沒寫完就停了,不是正常結尾。這不是模型的問題,是酒館設定的「最大輸出長度」限制到了。
解法:調高 Max new tokens。
在酒館的 AI 設定頁面(點右上角的滑桿圖示)找「Max new tokens」或「Maximum length」這個數值,預設通常是 512 或 1024,調到 2048 以上試試看。
如果調高之後仍然斷,但不是中途截斷而是真的寫完(結尾是句號或換段),那就是 AI 認為寫到這裡就夠了,不是設定問題。
如果已經斷了,想繼續: 直接在訊息欄打「繼續」或「continue」送出,AI 通常會從斷掉的地方接著寫。酒館也有「繼續生成」的按鈕(✍️ 或 Continue 圖示,在最後一則回覆旁邊),點它也會自動接著寫。
角色越聊越失憶、越聊越笨
聊了很久之後,AI 開始「忘記」前面說過的事,說過某個設定但後來裝作不知道,或者角色個性越來越模糊。這是上下文(context)滿了的正常現象,不是 bug,也不是模型變爛了。
原因: AI 每次回覆時,能「看到」的對話長度是有限的(取決於模型的上下文視窗大小)。聊越久,早期的對話被推出視窗,AI 就真的看不到那些內容了。你跟 AI 說話,但它每次只能讀最近幾千字,更早的內容對它來說根本不存在。
這個機制的詳細解說在課程影片區:第三幕:記憶之桶,建議去看一下,了解原理之後調設定比較有方向。
短期緩解:
- 在角色卡(character card)的「系統提示」或「描述」欄把最重要的設定放在最前面,這部分永遠在上下文視窗最前端
- 用世界書(worldbook / lorebook)存放背景設定,世界書的條目會在被觸發時才插入上下文,比較省空間
- 定期用「總結劇情」方式整理:手動新增一則系統訊息寫這段劇情的重點,讓 AI 有個摘要參考
根本解法: 換用上下文視窗更大的模型(例如 Gemini 系列有 100 萬 token 的版本),或搭配記憶插件(Memory 相關擴充)自動摘要舊對話。這些屬於進階設定,適合聊天頻率高、對連貫性要求嚴的使用者。
一直重複同樣的話、陷入迴圈
AI 開始重複輸出,同一句話換個說法說三遍,或每次回覆都是同樣的開頭。這通常是「重複懲罰」(repetition penalty)設定不夠強,或模型本身的限制。
先試這個:點重新生成(🔄 按鈕)。 有時候只是這一次生成的抽樣結果碰巧陷入迴圈,重生成就好了。
如果一直這樣:
- 換一個不同的預設(preset)試試。不同預設對重複懲罰的設定差很多,社群預設通常已經調好這個問題
- 在預設裡找「Repetition Penalty」或「Frequency Penalty」數值,調高一點(從 1.1 試到 1.3)
- 換模型。某些模型在特定劇情類型下就是比較容易迴圈,換一個更新或更大的模型通常有效
如果上面都試過還是一樣,可能是角色卡裡的範例對話(example dialogue)模板性太強,AI 在複製格式。試著精簡或多樣化範例對話。
角色個性不像人設、感覺跟普通 AI 沒兩樣
角色說話方式、個性、口頭禪都不明顯,感覺就是「戴了個面具的通用 AI」。這通常是角色卡(character card)本身的問題,或者連上的系統提示方向不對。
角色卡品質影響最大。 一張好的角色卡,描述欄位要寫得具體:個性特徵要有「怎麼表現」的細節,不能只寫「個性溫柔」,要寫「說話前常常停頓一下、會用很多輕描淡寫的修辭」之類的行為描述。開場白和範例對話也要符合這個個性,AI 是靠模仿這些例子學角色口吻的。
換一張品質更好的角色卡試試。 如果你在用內建的角色卡或隨便找的卡,可以去社群找品質更高的版本比較看看。哪裡找角色卡可以看這裡:角色卡與預設哪裡找。
預設也有影響。 有些預設的系統提示很強勢,會蓋過角色卡的個性設定。換一個對角色扮演更友善的預設(例如社群常見的 RP 導向預設)試試。
連「用戶角色」一起設定。 你在酒館設定的「用戶人設(User Persona)」也會影響角色的回應方式。如果人設是空的,AI 不知道你是誰,角色互動就比較模糊。填一個簡單的人設之後,角色通常會更有目標感地互動。詳細說明在 你的人設怎麼寫。
回覆冒出英文、或突然變成簡體中文
明明是在用中文聊天,但 AI 有時候突然夾雜英文,或者寫出簡體字,這是語言指示不夠明確的問題。
方法一:在預設的系統提示加一句語言指示。 在你使用的預設(preset)的「System Prompt」欄位加上一行:
請永遠用繁體中文(台灣用語)回覆,不要夾雜英文或簡體中文。這是最直接有效的方法,加完存檔,下次對話就生效。
方法二:在角色卡裡也加。 如果你想針對特定角色固定語言,在角色卡的「描述」或「角色設定」欄位底部加一條:「永遠用繁體中文說話」。
方法三:手動修正一次,後面通常會跟著改。 如果 AI 突然說了英文,你直接點「編輯」把那段改成中文,然後繼續對話。AI 看到你的修正,後面通常會模仿你的改動,回到中文。
為什麼會這樣? 這些 AI 模型是多語言訓練的,沒有明確的語言指示時,它會根據上下文猜測使用語言。對話裡如果有英文詞彙出現(角色名、物品名、技能名),模型有時候會順著那個方向飄向英文。語言指示加在系統提示裡是最穩定的做法。
