Files
company-kb/docs/03-知识库框架选型调研.md
yangqianqian 84f7950589 Initial commit: company-kb framework
- 完整的知识库框架(P0-P5 路线图)
- 12篇治理文档
- 工具脚本(kb-init.sh, kb-lint-fm.py, feishu-sync.py, kb-bot)
- 7个 Claude 命令
- 示例项目和测试项目(wanniu-l1)
- 契约文件(meta/kb-contract.yaml)

Co-Authored-By: Claude Opus 4.8 (1M context) <noreply@anthropic.com>
2026-07-16 18:24:39 +08:00

117 lines
9.5 KiB
Markdown
Executable File
Raw Permalink Blame History

This file contains ambiguous Unicode characters
This file contains Unicode characters that might be confused with other characters. If you think that this is intentional, you can safely ignore this warning. Use the Escape button to reveal them.
# 知识库框架选型 · 深度调研报告
> 主题:卡帕西 LLM Wiki 方法论≥2 套实现)+ Google OKF + 传统 RAG 知识库对比
> 用途:公司分层知识库选型
> 调研日期2026-06-24 | 方法smart-router → research-suite 后端 + WebSearch/WebFetch 交叉验证
## 摘要TL;DR
1. **卡帕西方法论 = "Stop Retrieving, Start Compiling"**(编译 > 检索。2026-04 提出X 上 1600 万阅读。核心:让 LLM 把原始资料"编译"成结构化、互链的 Markdown wiki一次性之后直接把 wiki 喂进上下文,而非每次查询都对原始文本跑向量检索。
2. **Google OKFOpen Knowledge Format= 卡帕西模式的标准化**。2026-06-12 Google Cloud 发布 v0.1,本质就是"带 YAML frontmatter 的 Markdown 目录",唯一必填字段 `type`。是"格式不是平台",无 SDK、无运行时、无锁定。
3. **三者不是互斥,而是分层互补**:卡帕西原理是"地基"OKF 是"地基的标准格式"RAG/向量库是"规模超过几百页后的导航层"。
4. **对我们 5 人团队的结论**现阶段方案Git+Markdown+frontmatter已天然命中 OKF/卡帕西模式,**方向正确,且应直接采用 OKF 的 frontmatter 约定**以获得未来可移植性。规模红线在"~100 源 / 几百页",远未到,**先不上 RAG**的判断成立。
详见各章。来源列表见末尾。
## 1. 卡帕西 LLM Wiki 方法论(方法论本体)
**核心洞察**:传统 RAG 是"健忘症"——每次查询都从零检索、合成、然后忘掉。知识从不沉淀系统永远长不大。卡帕西的替代LLM 当"编译器",读完所有源 → 抽取概念、压缩含义、建立交叉引用 → 产出结构化 wiki。查询时对**已编译的知识**推理,而非原始文本。
**关键特征**
- 知识"累积"而非"检索",是持久复利资产(与你机器里 `llm-wiki` SKILL 的"编译>检索"理念一字不差)。
- 纯 Markdown围绕 index.md 组织,无需向量库。
- 版本化、类型化、API 可访问,是 agent 推理的底座。
## 2. 卡帕西方法论的两套参考实现
### 实现 Allm-wiki SKILL本机已激活pkm-suite
- raw/→wiki/ 增量编译10 步摄入流程Delta Checkhash 去重)。
- Frontmatter Schema通用字段 type/title/created/updated/tags/status/related/sources + 类型特有字段source/entity/concept/comparison/question
- 三级查询Quick/Standard/Deep、Hot Cachehot.md ~500 词、8 项 Lint 健康检查、矛盾检测。
- 融合 claude-obsidian 精华。**这是我们手里现成的卡帕西实现**。
### 实现 BClaude Code + Obsidian 社区实现
- 用 Claude Code 把原始源编译进 Obsidian vaultsources/entities/concepts/comparisons 分目录。
- 与实现 A 同源同构,验证了"CC 做编译器 + Markdown vault 做载体"是社区主流落地路径。
## 3. Google OKFOpen Knowledge Formatv0.1
**定位**:把"LLM wiki"这个涌现模式,标准化成厂商中立、可移植的格式。作者 Sam McVeety / Amir HormatiGoogle Cloud451 行规格,"a format, not a platform"。GitHub 上附 3 个样例 bundle + 2 个参考实现。
**规格frontmatter 6 字段,仅 type 必填)**
| 字段 | 必填 | 含义 |
|------|------|------|
| `type` | ✅ 唯一必填 | 概念类别Metric/Table/Dataset/API/Runbook… |
| `title` | 选 | 人类可读名 |
| `description` | 选 | 一句话摘要 |
| `resource` | 选 | 指向底层资源的链接 |
| `tags` | 选 | 分组关键词 |
| `timestamp` | 选 | 信息最后有效时间 |
**结构**:一个 bundle = 一个 Markdown 文件目录,一文件一概念,文件路径即标识符。生产者与消费者解耦(谁定义 type、加什么字段由生产者决定。建议放版本控制里改动可审、有日期。
**OKF 刻意不做的事**:不是搜索排名信号、不是 web 发现标准(不同于 sitemap/llms.txt、不替代 schema.org/JSON-LD、v0.1 明确是草稿。
**OKF 与 RAG 的关系**OKF 面向"在公司知识上跑内部 copilot 或 RAG 的团队",把 bundle 加载进检索层,让 agent"先读 OKF 再猜"。即 OKF 是喂给 RAG 的优质结构化输入,二者协作。
## 4. 传统 RAG / 向量库 知识库
**机制**:文档切块 → 向量化 → 查询时相似度检索 top-k chunk → 喂 LLM 合成答案。
**优势**:规模无上限,适合海量、异构、高频更新语料;不需要预先"编译"。
**痛点(卡帕西批判的核心)**
- chunk 不透明、缺上下文,知识从不沉淀,每次查询从零开始("perpetual amnesia")。
- 准确度/速度/可维护性在"一类知识检索问题"上被 wiki 模式碾压(但仅限那一类)。
## 5. 规模红线与失效模式(选型最该警惕的)⚠️
卡帕西纯 wiki 模式在 **"约 100 个源 / 几百个页面"** 后破裂,两个原因:
1. **index.md 不可导航**目录条目太多LLM 首读的单一摘要文件失效,定位不到相关页。
2. **摄入悖论(循环依赖)**:编译新源时,"不先能导航大索引,就无法判断该更新哪些已有页"——要维护索引得先有可用索引。
**业界共识的解法 = 混合wiki + RAG**:保留"编译知识"的思想,但用**向量库替代 index.md 做导航层**,从而支持任意规模。检索负责"找到相关 chunk"wiki 构建负责"结构化它们",结构化 wiki 作为合成的输入。结论是"RAG 没死,是 wiki 和 RAG 互补"。
- 注意残留局限:矛盾检测受限于检索——不相似的文档永不共现,冲突检测不到。
## 6. 三方对比矩阵
| 维度 | 卡帕西 LLM Wiki | Google OKF | 传统 RAG |
|------|----------------|-----------|---------|
| 本质 | 方法论(编译>检索) | 格式标准 | 检索架构 |
| 载体 | Markdown + index | Markdown + frontmatter | 向量库 + chunk |
| 知识沉淀 | ✅ 累积复利 | ✅(格式层面) | ❌ 每次从零 |
| 规模上限 | ~100源/几百页 | 同 wiki它是格式 | 无上限 |
| 可移植/无锁定 | ✅ | ✅✅(标准化) | 取决于实现 |
| 检索准确度 | 高(小规模) | — | 中chunk 噪声) |
| 基建复杂度 | 极低 | 极低 | 高 |
| CC 原生友好 | ✅✅ | ✅✅ | ❌ 需中间层 |
## 7. 对公司分层知识库的选型建议
1. **采集层 + 原始汇聚层(第一件事)= 直接落地卡帕西/OKF 模式**。我们原方案Git+Markdown+frontmatter已命中只需把 frontmatter **对齐 OKF 6 字段**type 必填)+ 保留我们溯源字段source/author/created/ingested获得未来可移植性与 Google 生态背书。
2. **复用 `llm-wiki` SKILL 作为"编译器"**raw/→wiki/ 增量编译、Lint、矛盾检测都现成是处理层的天然第一层不必重造。
3. **先不上 RAG**5 人团队、项目资料量级远低于 ~100 源红线。`先不上向量库` 的原判断被证实正确。
4. **预留混合演进路径**当某个领域语料逼近几百页、index 开始不可导航时,按业界混合方案引入向量库当"导航层"wiki 编译层不变。这给处理层留了清晰的升级接口。
5. **type 体系要早定**OKF 把 type 交给生产者定义。我们应在 CONVENTIONS.md 里先约定一套公司 type如 project/decision/conversation/doc/runbook/metric避免后期不一致。
## 8. 来源
卡帕西方法论:
- [Beyond RAG: Karpathy's LLM Wiki Pattern](https://nayakpplaban.medium.com/beyond-rag-how-andrej-karpathys-llm-wiki-pattern-builds-knowledge-that-actually-compounds-31a08528665e)
- [The Compiler Analogy Explained](https://www.mindstudio.ai/blog/karpathy-llm-knowledge-base-architecture-compiler-analogy)
- [Building an LLM Wiki with Claude Code and Obsidian](https://medium.com/@manavghosh/building-an-llm-wiki-with-claude-code-and-obsidian-eb6c0990e723)
- [Karpathy's LLM Wiki got 16M views](https://implicator.ai/karpathys-llm-wiki-got-16-million-views-the-code-isnt-the-point-2/)
Google OKF
- [Google Cloud 官方博客OKF](https://cloud.google.com/blog/products/data-analytics/how-the-open-knowledge-format-can-improve-data-sharing)
- [OKF: What It Is, the Spec, How to Use It](https://www.startuphub.ai/ai-news/insights/2026/google-open-knowledge-format-okf-explained-2026)
- [OKF wants to be the lingua franca](https://www.ppc.land/googles-okf-wants-to-be-the-lingua-franca-for-ai-agent-knowledge/)
- [Google Open-Sources OKF (451 lines, 1 required field)](https://www.implicator.ai/google-open-sources-a-knowledge-format-and-wires-it-into-its-catalog/)
- [Publishing an OKF bundle with 11ty6 字段细节)](https://www.simoncox.com/post/2026-06-17-publishing-an-okf-bundle-with-11ty/)
对比与规模失效:
- [The LLM Wiki at Scale: From Personal Research Tool to Production RAG规模红线](https://michalnasternak.medium.com/the-llm-wiki-at-scale-from-personal-research-tool-to-production-rag-247710a1284c)
- [Karpathy's AI Wiki vs Structured Databases](https://www.mindstudio.ai/blog/karpathy-wiki-vs-structured-database-ai-memory)
- [Did Karpathy's LLM Wiki Just Kill RAG? Enterprise Verdict](https://www.epsilla.com/blogs/llm-wiki-kills-rag-karpathy-enterprise-semantic-graph)
- [LLM Wiki vs RAG for Internal Codebase Memory](https://www.mindstudio.ai/blog/llm-wiki-vs-rag-internal-codebase-memory)
> 调研方法说明research-suite 后端本轮 GATHER 未命中quality WARNING, 0 source已切换 WebSearch/WebFetch 兜底并交叉验证。关键结论OKF 发布日期、6 字段、规模红线)均 ≥2 源印证。