五一假期,我花了3.5亿Token,从零写了一套企业LLM WiKi
五一假期,我花了3.5亿Token,从零写了一套企业LLM WiKi #
今年五一,除了杨浦滨江骑车和感受音乐节外,我都在跟 AI 结对编程。
五天时间,烧掉大约3.5亿Token,写了15份设计文档,搭了八个微服务(gateway、core-api、repo-svc、search-svc、ingest-svc、agent-svc……),做了50租户压测和蓝队渗透扫描,最终在5月5号把Wiki骨架跑通——一套面向企业的LLM知识库系统,从零到v0.12.1。
我不是专业程序员。但这五天,我一行代码没手写,全部是AI生成的。
这和Claude Code创始人Boris Cherny在红杉AI峰会上说的"编程已经被解决了"的体感一模一样。
一、Karpathy的LLM Wiki思路 #
大多数人用AI和文档打交道的方式是RAG:上传一堆文件,提问的时候AI去里面捞相关片段,拼一个答案。NotebookLM、ChatGPT文件上传、各种知识库产品,基本都是这个路子。
Karpathy说,这个方式有个根本问题:没有积累。每次提问,AI都在从头发现知识。你问一个需要综合五篇文档的问题,AI每次都要重新找、重新拼。什么都没有沉淀下来。
他提出的替代方案是:让AI不只是检索,而是持续地构建和维护一个Wiki。每加入一个新文档,AI读懂它,提取关键信息,更新已有的实体页面、概念页面、综述页面,标注新旧数据的矛盾,强化或挑战现有的综合判断。
知识被编译一次,然后持续更新——而不是每次查询都从头推导。
Karpathy的原话:“Obsidian是IDE,LLM是程序员,Wiki是代码库。”
我看完想:这东西如果做成企业版,让企业每个员工都按部门、岗位和个人兴趣形成知识积累,会很有价值。于是五一开干。
二、五天的节奏 #
- 5月1日:项目启动。原始输入是karpathy的Github gist,和AI一起写PRD、系统设计、四阶段路线图、技术设计文档。一天搭完骨架,15个文档。
- 5月2日:MVP收尾。八个微服务联调跑通。
- 5月3日:多源接入——IM Bot、RSS、通用REST连接器。加了多租户隔离、权限审计、版权标注。跑50租户压测,做蓝队渗透扫描。
- 5月4日:会议语音自动转写、MinIO文件归档、飞书/腾讯webhook对接、管理员后台、上传原文归档到git、PDF和图片自动OCR、按密级分级的PR审阅流程。
- 5月5日:Wiki骨架落地。实体页、概念页、综述页、索引、日志全部跑通。搜索结果给Wiki命中加权。引入
[[wikilink]]双链。正式对齐Karpathy范式。
五天,一个人,3.5亿Token,大约13000块钱人民币的Token费用。
如果放在两年前,这个工程量至少需要一个5人团队干两个月。
最大的挑战 #
忍住不动手直接修改代码。中间好几次看到AI有非常弱智的Bug,真想亲自动手改。但还是忍住了,让AI自己修改、自己解决。
最大的难点 #
测试,特别是逻辑测试,还是需要人工发现和验证。
三、“编程被解决了"是什么意思 #
Boris Cherny的原话:“编程被解决了,不是说软件不重要了,而是说’写代码’这个动作不再是瓶颈了。”
这不是"用AI提效”,是工作性质的根本改变。你从写代码的人,变成了指挥AI的人。从程序员,变成了总指挥。
我这五天的体验一样。我的工作不是写代码,而是:
- 定义问题:这个知识库要解决什么企业痛点?
- 做架构决策:多租户怎么隔离?权限怎么设计?Wiki结构怎么定?
- 审核结果:AI生成的代码和文档,对不对?够不够好?
- 处理AI搞不定的事:蓝队渗透发现的安全问题、chat召回零命中的边界情况。
整个过程中,技术实现是最容易的部分。真正难的是想清楚要做什么,以及判断做出来的东西对不对。人解决 what to do、why to do,AI解决 how to do。
四、当编程门槛消失,人应该做什么 #
答案是:判断力。
AI可以写代码,但它不知道该写什么,也不知道写什么代码能解决什么问题。AI可以搭架构,但它不知道这个架构是否符合企业的实际需求。AI可以做50租户的压测,但它不知道真实场景里用户会怎么"滥用"这个系统。
这五天我做的最有价值的事情,是三个关键决策:
- 不做"更好的RAG",做"自维护的Wiki"。方向判断来自对Karpathy文章的理解,以及对企业知识管理痛点的长期观察。AI帮不了你做这个决策。
- 上传原文归档进git,按密级分级PR。来自在企业里踩过的坑——知识库没有审计和版权追溯,在合规层面就是个定时炸弹。
- 先做多租户隔离和蓝队渗透,再做花哨的功能。企业级产品,安全不是锦上添花,是准入门槛。
这些判断力来自十几年CEO积累的行业认知。
所以AI时代,人最应该做的是:
- 深耕行业认知。你对某个领域理解得越深,AI对你的加持就越大。不懂行的人拿着AI,和深度行业专家拿着AI,产出差距是指数级的。
- 培养判断力。AI可以生成100个方案,但你得能判断哪个是对的。这种判断力是在真实业务中被反复锤炼出来的。
- 学会提问。花在和AI沟通需求、定义问题上的时间,远超审核代码的时间。
五、企业的护城河在哪里 #
会变弱的护城河 #
转换成本。以前用了一套系统三年,迁移数据、重新培训员工的成本很高。现在AI可以帮你快速迁移,切换成本大幅下降。
流程壁垒。纯靠复杂业务流程设计建立的壁垒,变得非常脆弱。AI可以"hill climb anything"——给它一个目标,让它不断迭代优化。
不会变弱的护城河 #
网络效应、规模经济、独占资源(数据、人才、客户关系)。这些AI抢不走。
最被低估的护城河:组织级的AI能力 #
Boris分享的细节:Anthropic内部没有任何手写的代码,所有SQL都是AI生成的。他的Claude和同事的Claude通过Slack互相通信,在运行过程中协商解决问题。
这不是个人能力,这是组织能力。
一个公司的AI能力,不取决于招了几个会用AI的人,而取决于组织流程、协作方式、知识管理系统是不是围绕AI重新设计的。
我花五天能做出一个知识库系统,不代表任何一个人拿着AI都能做。能做是因为对企业需求有判断力,对技术架构有直觉,以及不怕重新学习一套完全不同的工作方式。
**企业真正的护城河,是组织层面的AI原生能力。**个人用AI提效是第一步,只有当整个组织的流程、文化、知识管理都围绕AI重构时,护城河才真正建立。
六、组织应该怎么调整 #
1. 给员工足够的Token #
一个不给员工分配Token的公司,就像过去不给员工配电脑的公司。
我这五天烧了3.5亿Token。按星图(我们UCloud的AI平台 https://astraflow.ucloud.cn/ )的企业定价,成本大概13000块钱。13000块钱换来了一个原本需要5人团队干两个月的项目。
**Token是新时代的生产资料。**不要在这上面省钱。
2. 重新定义"程序员" #
未来团队里每个人都会编程——工程经理、产品经理、设计师、数据科学家、财务、用研。不是说每个人都要学编程,而是每个人都能通过AI把自己的想法变成可运行的系统。
企业需要的不是"更多的程序员",而是"更多懂业务的人"。代码不再是瓶颈,理解业务才是。
3. 组织知识要"编译",不要"检索" #
这是Karpathy范式最大的启发。
大多数企业的知识管理是RAG模式——文档扔进去,有人问的时候AI去翻。每次查询都在从头发现知识,什么都没有沉淀。
更好的方式是Wiki模式——AI持续把新信息整合进已有的知识体系,维护实体关系、标注矛盾、更新综述。知识被编译一次,然后持续更新。
**这不只是技术架构的选择,是组织知识管理理念的根本转变。**从"存档"变成"活档",从"有人问才找"变成"持续整理、随时可用"。
4. 拥抱"松树型"组织 #
顶部是精简的碳基精英做战略判断,底部是大量的硅基员工在执行。中间层从"传话筒"变成"人机编排师"。
一个人+AI真的可以顶一个小团队。但前提是这个人必须具备三种能力——行业判断力、架构思维、和AI协作的技巧。
七、AI的下一个目标是什么 #
编程已经被解决了。下一个被"解决"的,不是某个具体的工作类别,而是让"组织"本身变得可编程。
一个人可以用AI快速构建复杂系统。但一个人终究是一个人。真正的爆发力,来自组织里的每个人都像我这五天一样工作——每个人都在用AI构建、每个人都在往共享知识库里贡献、AI Agent之间互相协调。
整个组织就是一个由人类指挥、AI执行的分布式计算系统。
这才是AI的终极目标——不是替代个人,而是让组织的认知能力实现指数级扩展。
当一个公司的每个人都能"编程",当组织知识从RAG进化到自维护Wiki,当AI Agent之间可以自主协调——这个公司的能力上限,就不再受限于它有多少员工,而是受限于它的组织设计有多好。
结语 #
五天,3.5亿Token,一套企业知识库。
编程的门槛正在消失。但真正的门槛——判断力、行业认知、组织能力——从来没有变低。
AI不是在取代人,而是在放大人与人之间的差距。
印刷机普及了文字,带来了文艺复兴。AI普及编程,会带来什么?
我不确定答案。但我确定的是,这个假期让我看到了一种完全不同的工作方式。而这种方式,正在快速从少数人的实验变成所有人的日常。