EP4 大廚的盲區:LLM 沒有的東西
AI 常常犯一些讓你覺得「這也不懂?」的錯誤,像是解剖學奇蹟(第三隻手)、完全不知道今天幾號、某些細節你沒說它就當作不存在。這不是它笨,是它有一些結構性的盲區。知道了就能避開。
影片即將上線
本段影片將在 6/20 直播結束後上架。以下是文字重點摘要,可以配合影片一起看。
Take it away
第四幕三個重點
- 沒有時間觀念:大廚不知道現在幾點、今天幾號,除非你寫在上下文裡
- 沒寫進上下文=對大廚來說不存在:你在意的任何現實細節,都要自己明確寫進設定
- 它用模式比對猜劇情,不是真的讀懂:判定結果本來就不穩定,被擋不一定是你的錯
盲區一:沒有時間觀念
大廚沒有時鐘。
它不知道現在幾點、今天幾號、距離上次對話過了多久。兩次對話之間對它來說不存在「昨天」,每次開新對話,對它而言都像是宇宙誕生的第一天。
而且它的訓練資料有截止日期。訓練之後發生的新聞、新事件、新的流行詞,它全都不知道(除非你在對話裡告訴它)。
實際影響:
- 如果你的 RP 設定有特定的年代、季節、時間,要自己寫進角色卡或場景設定
- 「你還記得我們昨天說的事吧」,不記得,「昨天」對它沒有意義,那次對話的紀錄早就不在桶子裡了
- 問它「最近有什麼 AI 新消息」,它的「最近」是訓練截止日那一天的最近
盲區二:沒有身體
大廚學的是「人類怎麼寫身體」,不是身體本身。
所以它可以寫出非常生動的動作描述,因為它讀過幾千萬個身體動作的描述。但它對物理世界的理解是「文字模式」的,不是真實因果的。
這就是為什麼 AI 有時候會出現「解剖學奇蹟」:角色明明雙手已經各拿著一個東西,卻又「伸出手」拿第三個。它在接「伸出手」這個文字模式,沒有在真正追蹤角色的雙手位置。
類似的問題:
- 物理位置描述混亂(左邊右邊搞反、空間關係不對)
- 劇情的「現實後果」它可能不追蹤
- 角色能力的「邏輯限制」要靠你在設定裡明確寫
盲區三:沒寫進上下文的東西不存在
這是最重要的盲區,直接影響你的 AI RP 體驗。
鐵律:沒寫進上下文的東西,對大廚來說不存在。
它不會「想到」你沒提的現實細節。你覺得「這麼理所當然的事,AI 應該自己知道吧」。不,它不知道,除非你寫出來。
舉例:
- 你想要角色「有固定的說話癖好」,要寫進角色卡,不能期待它自己記住
- 場景裡有你很在意的某個設定,寫進世界書(worldbook),讓它在相關對話裡自動上桌
- 你的人設對角色的態度,寫進使用者描述
這個盲區解釋了一個常見困惑:
為什麼 AI 在某個情境下「忘記」了某個設定?很可能是因為那個設定當初只是在聊天裡說過,現在那個回合的紀錄已經被擠出桶外了。解法是把重要設定放進永久區(參考 EP3 記憶之桶)。
盲區四:它在猜模式,不是讀懂劇情
這個盲區解釋了你最常遇到的一種挫折:「我明明沒寫任何不好的東西,為什麼被擋了?」
大廚判定內容「安不安全」的方式,不是像人類一樣讀懂你的意圖,它是用字詞模式比對在做統計推測。相同的字組合在一起,機率上常常出現在某種內容裡,就觸發警報。
這帶來兩個結果:
- 誤殺:完全無害的描述,但包含了某些「模式分數」高的詞,被擋了
- 漏網:真正的擦邊內容,但用詞不在模式庫裡,滑過去了
所以「被擋」並不代表你做了什麼不對的事。 它只是一個機率遊戲的輸家。這也呼應了 EP1 說的「對齊稅」,被嚇怕的大廚,寧可多殺一些也不要漏。
判定是機率性的,不是規則性的。同一段描述,送個十次,可能七次過、三次不過。這是它的設計特性,不是系統壞掉。
這些盲區怎麼應對?
| 盲區 | 應對方式 |
|---|---|
| 沒有時間觀念 | 在場景設定或角色卡裡明確標注時間背景 |
| 沒有身體 | 如果很在意物理細節,在場景描述裡明確寫清楚空間關係 |
| 不存在的設定 | 想要 AI 記住的東西,一律寫進角色卡或世界書 |
| 模式比對不穩定 | 遇到誤殺就換個說法重試;或換用安全等級更彈性的模型(EP6 主題) |
常見問題
Q:為什麼同樣的劇情,有時候被擋,有時候不會?
因為判定機制是機率性的。每次生成,大廚選下一個字都有微小的隨機性,累積下來整段內容的「模式分數」就會有浮動,有時候剛好在安全線以下,有時候剛好觸發。
Q:我要怎麼讓 AI 記住我的角色人設?
把你的人設寫進「使用者角色管理(Persona Management)」裡。這個區塊的內容會放進永久區,AI 每次對話都會讀到。詳細操作方式在使用教程→你的人設怎麼寫。
下一步
EP5 好回覆的公式:知道了大廚的限制,那要怎麼讓回覆變好?有一個公式可以記。
