当前位置:首页 > 百科

最新关键词

```html 最新关键词

最新关键词

“RAG 已经过时了?”上周和两个做 AI 应用的朋友吃饭,其中一个把手机往桌上一扣,关键冒出这么一句。最新他刚把一个跑了半年的关键知识库系统从 RAG 切到了“长上下文 + 缓存”的方案,成本降了四成,最新响应还快了。关键我问他关键词是最新什么,他说:“别检索了,关键直接塞。最新”

这当然是关键个案。但如果你最近翻 GitHub 趋势榜或者 HN 的最新评论区,会发现一个词出现的关键频率高得离谱——“上下文工程”(Context Engineering)。不是最新提示词工程,那个词已经被嚼烂了。关键上下文工程关心的最新是:模型窗口就那么大,你往里塞什么、按什么顺序塞、什么时候扔掉,才是决定输出质量的关键。Karpathy 上个月在一个播客里说,他写代码时现在花在“设计喂给模型什么上下文”上的时间,比写 prompt 本身多三倍。

我自己的体会更直接。前阵子帮一个法律团队做合同摘要工具,一开始用 RAG,把合同切片、向量化、检索 top-k。结果呢?模型经常把不同条款的责任主体搞混,因为检索回来的片段彼此不挨着。后来换成按合同结构整段喂,窗口不够就做分层摘要——先摘要章节,再把章节摘要拼起来。准确率从 71% 跳到 89%。代码没改几行,改的全是“怎么组织上下文”。

// 旧思路:检索增强
const chunks = vectorDB.search(query, topK=5);
const answer = llm.generate(chunks.join("\n") + query);

// 新思路:上下文编排
const outline = extractOutline(doc);
const summaries = outline.map(sec => summarize(sec));
const context = buildContext(summaries, query, { maxTokens: 8000});
const answer = llm.generate(context);

另一个热词是“小模型 + 好数据”。不是那种“我们训了个 7B 打败 GPT-4”的营销话术,而是真有人拿 3B 的模型,用几千条精心清洗的领域数据做 LoRA,在特定任务上把 GPT-4o 按在地上摩擦。我认识一个做医疗编码的团队,他们用 1.5B 的 Qwen 微调,只做 ICD-10 编码映射,F1 干到 0.94。GPT-4o 零样本只有 0.78。成本?一张 4090 跑一晚上。他们的关键词是“数据纯度”,不是“模型大小”。

还有个词悄悄冒头:“Agent 记忆”。不是那种“记住用户偏好”的简单记忆,而是让 Agent 在长任务里自己维护一个工作记忆区。比如一个订机票的 Agent,跑了二十轮对话后,它得记住“用户说过不要红眼航班”“预算上限 800 美元”“已经排除三个航司”。现在主流做法是塞进对话历史,但历史一长就爆窗口。有人开始用文件系统当记忆——Agent 自己写 Markdown 笔记,需要时读回来。听着很土,但 Anthropic 的 MCP 协议里专门有个 memory 工具,说明这需求真实存在。

“模型能力不是瓶颈,上下文才是。” —— 某位不愿具名的 Infra 工程师,在调试了三个月 Agent 之后。

我自己的判断:接下来半年,你会看到越来越多“上下文压缩器”“记忆管理器”“窗口调度器”这类中间件。它们不训练模型,只干一件事——在有限窗口里,让模型看到最该看的东西。这比卷模型参数有意思多了。毕竟,参数是别人的,上下文是你自己的。

对了,那个朋友最后补了一句:“RAG 没死,只是它变成了上下文工程的一个子集。”我觉得这话靠谱。关键词会变,但问题没变:怎么让模型在正确的时间看到正确的信息。谁解决得好,谁就能做出真正能用的东西。

个人观察,不构成技术选型建议。文中案例来自公开讨论和私下交流,细节有模糊处理。

```

分享到: