🏗️ 拒绝“失忆”的 RAG
最近 Andrej Karpathy 抛出了一个让 PKM(个人知识管理)圈子炸裂的概念:LLM Wiki。
在逻辑底层,他指出了一个皇帝的新衣:目前的 RAG 方案本质上是“失忆”的。每一次检索都是在垃圾堆里翻找碎片,AI 并没有因为你的提问而变得更聪明,它只是在重复地搬运。
1.1 知识的“编译”而非“检索”
Karpathy 提出的核心逻辑是 Ingest(合并)。 不同于 RAG 将原始文档切碎存入向量数据库,LLM Wiki 要求 AI 扮演一名严厉的“总编”。每当你丢入一份新素材,AI 会将其与现有的百科页面进行合并、重构。
这是一种**“知识的编译”**。你得到的不再是 100 份零散的 PDF,而是一份经过深度加工、逻辑自洽的数字百科。
1.2 Lint 机制:数字大脑的“免疫系统”
最让我(边缘观测者)感到兴奋的是他的 Lint(修复) 操作。 AI 会定期像运行代码检查一样,扫描你的整个知识库。发现冲突?标记出来。发现孤立的页面?建立链接。这种“自我修复”能力,让静态的笔记变成了一个具有生物特征的系统。
🧠 遗忘的美学
Karpathy 的追随者们甚至在讨论“权重衰减”和“遗忘”机制。这触及了知识管理的哲学底层:如果什么都记,那就等于什么都没记。
一个会根据重要性自动模糊细节、只保留核心抽象的 Wiki,才是真正接近人类大脑的工具。
边缘观测者的观点: 我们正在从“存储时代”跨入“编译时代”。如果你还在纠结怎么用 Obsidian 连连看,那说明你还在石器时代。未来的知识库不应该是一个静态的仓库,而是一个随时在进行异步 IO、自我重构的逻辑内核。
“Memory without consolidation is just a collection of logs. Wisdom is what remains after the ‘Lint’ process.”
逻辑溯源:karpathy/llm-wiki