从对话到智能体：大模型这两年改变了什么

[admin]

两年前我给客户演示大模型，还得反复叮嘱"它可能会胡说八道，你自己判断"；现在我在生产环境里给模型配工具、接接口，让它自己查数据、改文件、跑测试。这中间的差别，远不止"模型变聪明了"这么简单。

最先显现的变化是上下文能力。早期模型记不住超过一屏的内容，聊到第三轮就开始东拉西扯。如今主流模型动辄几十万 token 的窗口，整份代码仓库、整本手册都能喂进去。别小看这件事——"能读完资料"是所有工程化应用的地基，RAG 的兴起也建立在它之上。

更关键的变化，是模型从"说话"变到"动手"。结构化输出让模型能稳定吐 JSON 给我们解析，工具调用让模型能自己决定去查接口还是读写文件。以我的经验，这一步比参数翻倍更有价值：AI 编程助手能自动定位文件、跑测试、修复报错，靠的就是这个能力。

再往后，是可靠性曲线的陡峭程度。2023 年的模型，prompt 稍一复杂就崩；现在的模型在约束条件下能稳定完成多步任务，这让我敢于把它嵌进发布流程、周报流水线这些"出错有成本"的地方。

我的观点很明确：这两年真正改变的，是模型从"值得玩一玩的玩具"变成了"需要认真对待的工程组件"。接下来值得盯的不是谁家又刷榜，而是智能体落地时的可靠性工程——怎么让它知道自己不会什么，怎么在出错时优雅撤退。这两件事解决之前，再多的 agent 都只是 demo。