聊着聊着它就变笨了:AI 的对话摊在一块有限的台面上
忘事、答非所问、前后矛盾——这几件事看着不一样,其实是同一个原因。看懂 AI 那块看不见的工作台面,你就知道什么时候该重开一条,以及为什么"重要的话要落盘"。
START
四种现象,其实是同一件事
用久了 AI 的人,多半都遇到过这几种情况。它们看起来是四个毛病,其实是同一个原因。
| 你感受到的 | 实际发生的 |
|---|---|
| 聊久了它变笨了、答非所问 | 台面快满,早期内容被压缩或移出,它是真的"看不见"了 |
| 它把我开头说的要求忘了 | 开头那段已经被挤出台面 |
| 贴了个大文件,后面聊天质量就下降 | 大文件占掉大半台面,留给对话的空间变小了 |
| 同一条对话越用越慢 | 每轮都要重读整个台面,台面越满,处理越重 |
四行右边说的是同一件事:台面满了。
FRAMEWORK
台面:AI 干活的地方是有限的
把 AI 想象成一位只有一块工作台面的裁缝。
你说的每句话、它回的每句话、你贴进来的每份文档,都是布料——全都要摊在这块台面上,它才"看得见"。台面的大小,就是上下文窗口(Context Window)。
关键在于:台面是有限的。堆满了,最早放上去的布料就得被收走,或者压成小样。于是它开始"忘事"。
这块台面按 token(词典里叫"字块")计量。你会在各家产品页上看到"上下文窗口 200K"这类写法,K 前面的数字就是 token 数——具体多大、怎么折算,看当时的官方说明就好,本页不复述,因为那是会变的。会变的是尺寸,不变的是"有限"这件事。
KEY
知识库不是台面
这是最容易搞混的一点,值得单独说。
给 AI 配了长期档案柜(Project)之后,很多人以为传进知识库的资料"它就全记住了"。不是的。
知识库走的是检索——不是把整个库塞进对话,而是每次按需"捞几块相关的"放上台面。
所以:知识库可以放很多文件,但单次对话真正在场的,只有被捞出来的那部分。这也是为什么资料的命名和整理方式会直接影响答案质量——捞得准不准,取决于你码放得清不清楚。
WHY
堆满了它不报错,只会悄悄变笨
多数产品不会弹窗告诉你"满了"。它们悄悄做两件事之一:把早期内容自动摘要压缩,或者直接截断最早的消息。
表现出来,就是变笨、忘事、前后矛盾。
一条聊了很久很久的对话,不是"积累了很多默契的老伙计",而是"台面上堆满布头、越来越转不开身的裁缝"。
该收工就收工,重开一条比硬聊更聪明。
顺带说一句:台面大也不等于可以无限造。再大的台面,堆到后段一样会压缩、变慢。大窗口是余量,不是护身符。
RULES
五条守则
守则 1 · 一事一话
一个任务(或一批相关任务)开一条对话,干完就结束。别把周报、报价、代码问题全塞进同一条"万能对话"里。
守则 2 · 重要结论落盘,别拿对话当存档
对话是工作台,不是仓库。谈出来的结论、方案、清单,让 AI 整理成文档,存到你自己的地方。台面会清空,文件不会。
守则 3 · 重开对话时,喂"摘要"不喂"全史"
新对话不需要把旧对话原文全贴进来。贴一段上次的结论摘要就够了——或者干脆让 AI 在收工前生成一份"接棒摘要"。又省台面又聚焦。
守则 4 · 大文件按需给,别一股脑全灌
问合同第 3 条,就贴第 3 条的上下文,不必贴整本合同。文件越大,占台面越多,留给"思考"的空间越少。
守则 5 · 觉得它变笨了,先怀疑台面满了
答非所问、忘记设定、前后矛盾——第一反应不该是"这 AI 不行",而是"该重开一条了"。重开之后往往立刻恢复。
MYTH
三个常见误解
误解一:"聊得越久,它越懂我。"
反了。聊得越久,台面越挤,早期的约定越可能已经被压掉。真正让它"懂你"的不是聊天时长,是把背景固定下来——那是档案柜该干的事。
误解二:"资料都传到知识库了,它每次都会全部读一遍。"
不会。知识库是按需检索,每次只调取相关片段。所以资料要整理得清晰、命名规范,它才捞得准。
误解三:"有没有办法让它永远记住我们聊过的?"
对话本身会被压缩、会过期,指望它自己记住是靠不住的。可靠的做法是把记忆放到对话外面——见最后一节。
NEXT
进阶:把仓库建在台面外面
如果你想更进一步:与其跟台面较劲,不如把仓库建在台面外面。
我们自己的日常工作流就是这么设计的,三条做法可以直接借鉴:
记忆外置
所有重要状态、决策、下一步,收工时写进一份固定文档。记忆活在文件里,不活在对话里。
一句暗号接棒
新对话说一句约定好的开工暗号,AI 先读那份文档、重建上下文,几分钟就"想起来"上次干到哪。对话随便重开,工作不断线。
按需回源
知识不塞进对话,而是登记一份路径索引,要用哪份读哪份。台面永远留给当前任务。
一句话:台面注定有限,所以别跟台面较劲——把仓库建在台面外面。