EP3 記憶之桶:為什麼 AI 會「失憶」?
AI 明明剛才還記得你的名字,聊幾十回合之後突然忘了。這不是 bug、不是 AI 在鬧脾氣,背後有一套完整的物理邏輯。搞懂這頁,你就知道角色卡該怎麼寫了。
影片即將上線
本段影片將在 6/20 直播結束後上架。以下是文字重點摘要,可以配合影片一起看。
Take it away
第三幕三個重點
- 「上下文」=送進廚房的全部:不是文章前後文,是每次回覆前遞給 AI 的全套資料包
- 失憶=舊紀錄從桶側被擠出去,是空間滿了的物理現象,不是 AI 鬧脾氣
- 想讓 AI 永遠記得的事,要寫進角色卡(character card)或世界書(worldbook)
「上下文」是什麼?
「上下文」這個詞在酒館(SillyTavern)裡的意思,跟你平常說的「文章上下文」完全不同。
酒館的上下文(context)=每次大廚開始做菜之前,服務生整理好遞給他的那一整包資料。
這包資料裡有:
- 系統提詞(釘在廚房牆上的規矩)
- 角色卡(角色的設定)
- 世界書(可觸發的背景設定)
- 聊天紀錄(你們之前說過的話)
大廚每次回覆,都是把這整包資料重新看一遍,然後猜「下一個字是什麼」。它不是「記得」你們說過的話,是「重讀」了紀錄。
這個區別非常重要:大廚沒有長期記憶,只有「當下手邊的這包資料」。
記憶之桶:分層結構
這一整包資料,想像成一個木桶,桶內由上到下,是這樣排的:
┌─────────────────────────┐
│ 世界書(前置觸發) │ ← 永久區
│ 用戶描述 │ ← 永久區
│ 角色描述 │ ← 永久區
│ 性格、場景 │ ← 永久區
│ 世界書(後置觸發) │ ← 永久區
│ 對話示例 │ ← 臨時區(會被擠出)
│ │
│ 聊天紀錄 │ ← 臨時區(最舊的先被擠)
│ │
│ ▼ 最新的訊息在最底部 ▼ │ ← 影響力最大
└─────────────────────────┘越靠近桶底(越新的內容),對大廚當下直覺的影響越大。
這也是為什麼你的最新一句話對 AI 的回覆影響最直接,因為它在桶子最底部,最新鮮、影響力最強。
失憶的真相:桶口在側邊
木桶的容量是有限的(4K、8K、16K……等,單位是 Token)。
隨著對話越來越長,新的聊天紀錄不斷加進來,桶子總有一天會滿。滿了怎麼辦?
木桶的開口在側邊。最舊的聊天紀錄,會從側邊被擠出去。
這就是「失憶」的真相。不是 AI 在故意忽略你,也不是系統 bug,是桶子滿了,舊的東西物理性地消失了。
「失憶」就是這個意思:你在對話第三回合說的事,聊了五十回合之後,那個回合的紀錄早就已經不在桶子裡了。大廚沒有辦法「記得」一個他看不到的東西。
永久區 vs. 臨時區
桶子裡的東西分兩種:
永久區(不管對話多長都不會被擠出去):
- 世界書條目
- 使用者描述
- 角色描述
- 性格總結
- 場景設定
臨時區(桶子滿了就開始被擠出):
- 對話示例
- 舊的聊天紀錄
這個設計給你一個很清楚的指引:你希望 AI 永遠記得的事,要放進永久區,也就是放進角色卡(character card)或世界書(worldbook),不要只在聊天裡說。
角色卡要這樣寫
現在你懂了記憶之桶,你就知道角色卡的寫法準則:
該放進角色卡的:
- 角色的核心個性(每次都要維持的特質)
- 角色的外貌、名字、背景
- 你和角色的關係設定
- 你希望 AI 每次都遵守的規則
不要只在聊天裡說的:
- 「記住,你的個性是……」,聊天紀錄會被擠出去,這句話之後就消失了
- 「你剛才說過……」,如果那個回合已經被擠出桶外,AI 確實不記得了
關於世界書(worldbook):
世界書是個很聰明的設計。它的條目平時不會佔用桶子空間,只有對話觸發了指定的關鍵字,相關條目才會自動「上桌」加進上下文。
把它想成「隱藏食材匣」,平常鎖在倉庫,需要的時候才開鎖拿進廚房。你可以把很多背景設定放進世界書,不會一直占用桶子空間,卻又能在需要的時候自動起作用。
詳細的世界書操作方法,在使用教程→世界書入門。
常見問題
Q:我可以讓 AI 有永久記憶嗎?
在基礎設定裡沒有。有些擴充功能(如聊天摘要擴充)可以定期把重要訊息整理進角色卡或世界書,變相實現「更長的記憶」,但這是進階玩法,初學者先搞懂桶子的基本邏輯就夠了。
Q:桶子多大才夠用?
一般 AI RP 建議至少 8K Token 的上下文,16K 以上更好。免費平台很多只給你 4K 甚至更少,這是為什麼免費平台 AI 失憶速度特別快的原因之一。自架酒館用 API 的好處之一就是你可以自己決定要用多大的桶子,當然費用也跟著桶子大小走。
Q:對話示例放太多有什麼影響?
對話示例(角色說話方式的範例)放越多,佔用的永久區空間越大,會壓縮留給聊天紀錄的空間,讓失憶速度加快。一般建議對話示例控制在合理範圍,不要塞太多。
下一步
EP4 大廚的盲區:除了失憶,AI 還有哪些我們理所當然但它完全不懂的事?
