常识刊 · 第 1 期

聊着聊着它就变笨了:AI 的对话摊在一块有限的台面上

忘事、答非所问、前后矛盾——这几件事看着不一样,其实是同一个原因。看懂 AI 那块看不见的工作台面,你就知道什么时候该重开一条,以及为什么"重要的话要落盘"。

START

四种现象,其实是同一件事

用久了 AI 的人,多半都遇到过这几种情况。它们看起来是四个毛病,其实是同一个原因。

你感受到的实际发生的
聊久了它变笨了、答非所问台面快满,早期内容被压缩或移出,它是真的"看不见"了
它把我开头说的要求忘了开头那段已经被挤出台面
贴了个大文件,后面聊天质量就下降大文件占掉大半台面,留给对话的空间变小了
同一条对话越用越慢每轮都要重读整个台面,台面越满,处理越重

四行右边说的是同一件事:台面满了。

FRAMEWORK

台面:AI 干活的地方是有限的

把 AI 想象成一位只有一块工作台面的裁缝

你说的每句话、它回的每句话、你贴进来的每份文档,都是布料——全都要摊在这块台面上,它才"看得见"。台面的大小,就是上下文窗口(Context Window)

关键在于:台面是有限的。堆满了,最早放上去的布料就得被收走,或者压成小样。于是它开始"忘事"。

这块台面按 token(词典里叫"字块")计量。你会在各家产品页上看到"上下文窗口 200K"这类写法,K 前面的数字就是 token 数——具体多大、怎么折算,看当时的官方说明就好,本页不复述,因为那是会变的。会变的是尺寸,不变的是"有限"这件事。

KEY

知识库不是台面

这是最容易搞混的一点,值得单独说。

给 AI 配了长期档案柜(Project)之后,很多人以为传进知识库的资料"它就全记住了"。不是的。

知识库走的是检索——不是把整个库塞进对话,而是每次按需"捞几块相关的"放上台面。

所以:知识库可以放很多文件,但单次对话真正在场的,只有被捞出来的那部分。这也是为什么资料的命名和整理方式会直接影响答案质量——捞得准不准,取决于你码放得清不清楚。

WHY

堆满了它不报错,只会悄悄变笨

多数产品不会弹窗告诉你"满了"。它们悄悄做两件事之一:把早期内容自动摘要压缩,或者直接截断最早的消息。

表现出来,就是变笨、忘事、前后矛盾。

一条聊了很久很久的对话,不是"积累了很多默契的老伙计",而是"台面上堆满布头、越来越转不开身的裁缝"。

该收工就收工,重开一条比硬聊更聪明。

顺带说一句:台面大也不等于可以无限造。再大的台面,堆到后段一样会压缩、变慢。大窗口是余量,不是护身符。

RULES

五条守则

守则 1 · 一事一话

一个任务(或一批相关任务)开一条对话,干完就结束。别把周报、报价、代码问题全塞进同一条"万能对话"里。

守则 2 · 重要结论落盘,别拿对话当存档

对话是工作台,不是仓库。谈出来的结论、方案、清单,让 AI 整理成文档,存到你自己的地方。台面会清空,文件不会。

守则 3 · 重开对话时,喂"摘要"不喂"全史"

新对话不需要把旧对话原文全贴进来。贴一段上次的结论摘要就够了——或者干脆让 AI 在收工前生成一份"接棒摘要"。又省台面又聚焦。

守则 4 · 大文件按需给,别一股脑全灌

问合同第 3 条,就贴第 3 条的上下文,不必贴整本合同。文件越大,占台面越多,留给"思考"的空间越少。

守则 5 · 觉得它变笨了,先怀疑台面满了

答非所问、忘记设定、前后矛盾——第一反应不该是"这 AI 不行",而是"该重开一条了"。重开之后往往立刻恢复。

MYTH

三个常见误解

误解一:"聊得越久,它越懂我。"

反了。聊得越久,台面越挤,早期的约定越可能已经被压掉。真正让它"懂你"的不是聊天时长,是把背景固定下来——那是档案柜该干的事。

误解二:"资料都传到知识库了,它每次都会全部读一遍。"

不会。知识库是按需检索,每次只调取相关片段。所以资料要整理得清晰、命名规范,它才捞得准。

误解三:"有没有办法让它永远记住我们聊过的?"

对话本身会被压缩、会过期,指望它自己记住是靠不住的。可靠的做法是把记忆放到对话外面——见最后一节。

NEXT

进阶:把仓库建在台面外面

如果你想更进一步:与其跟台面较劲,不如把仓库建在台面外面。

我们自己的日常工作流就是这么设计的,三条做法可以直接借鉴:

记忆外置

所有重要状态、决策、下一步,收工时写进一份固定文档。记忆活在文件里,不活在对话里。

一句暗号接棒

新对话说一句约定好的开工暗号,AI 先读那份文档、重建上下文,几分钟就"想起来"上次干到哪。对话随便重开,工作不断线。

按需回源

知识不塞进对话,而是登记一份路径索引,要用哪份读哪份。台面永远留给当前任务。

一句话:台面注定有限,所以别跟台面较劲——把仓库建在台面外面。