最近看了很多AI应用的案例,越看越觉得一个问题很有意思:现在大家讲AI落地,很容易把两件事混在一起。
一件事是基模厂商、算力厂商、云厂商的增长,也就是所谓的“卖铲子”。比如调用量涨了、token消耗涨了、MaaS收入涨了、GPU更贵了,这些当然是增长,但这是铲子卖得好,不代表下地挖矿的人真的挖到了金子。
另一件事才是应用端的真实产出:一个企业用了AI之后,到底有没有少招人、少返工、少犯错、少试错,或者创造出以前根本做不出来的东西。
这两个问题不能混着讲,一混就容易把故事讲大。

最近看了很多AI应用的案例,越看越觉得一个问题很有意思:现在大家讲AI落地,很容易把两件事混在一起。
一件事是基模厂商、算力厂商、云厂商的增长,也就是所谓的“卖铲子”。比如调用量涨了、token消耗涨了、MaaS收入涨了、GPU更贵了,这些当然是增长,但这是铲子卖得好,不代表下地挖矿的人真的挖到了金子。
另一件事才是应用端的真实产出:一个企业用了AI之后,到底有没有少招人、少返工、少犯错、少试错,或者创造出以前根本做不出来的东西。
这两个问题不能混着讲,一混就容易把故事讲大。

这两年面试,AI相关的问题越来越多。当然了,这里说的不是AI算法岗的面试,而是大模型应用开发,或者传统后端开发中的面试。有没有同学会想,面试官到底想考你什么?
我发现一个很有意思的现象:
很多同学聊AI的时候,像是在聊新闻联播。
DeepSeek、Agent、上下文窗口、推理模型、多模态、MCP,一个词接一个词往外蹦,听起来都知道。但一问到自己平时怎么用AI写代码,怎么判断AI写得对不对,怎么处理上下文太长、响应太慢、代码跑偏这些问题,马上就开始虚了。
我发现公司同事在面试的时候,基本不太喜欢问“你知道某某模型吗”,也不太喜欢问“你了解Agent吗”。这些问题太容易背,也太容易把面试变成概念互殴。
大模型 Agent 是基于大型语言模型并结合模块化规划、记忆和工具调用的自主决策系统,它能够根据最终目标把复杂任务拆分成子任务,调用 API、检索数据库或使用插件,再通过内部循环不断优化执行流程,基本不需要人在每一步都监督。
传统 AI 是你问一个问题它回答一个问题,每次都是独立的,被动响应;而 Agent 有自己的规划能力,你给它一个复杂目标,它会自己把任务拆成多步,通过调工具、访问记忆、感知环境来一步步执行,直到完成。它不只是输出文字,而是真的能做事。
主要区别如下:
LangChain 是一个开源框架,专为快速构建复杂的大语言模型应用而设计。它通过模块化组件(Agents、Memor、Tools 等)和预制工具链,解决了传统LLM开发中的三大痛点
我理解大语言模型的本质,是一个用海量语料预训练、参数到百亿千亿规模、自回归生成文本的统一模型。
它和传统 NLP 模型最根本的区别有三点。
第一,传统 NLP 是「一任务一模型」,分词、命名实体识别、情感分析、问答各训各的,每个模型只会干自己那点事;LLM 是「一个模型干所有事」,因为它在预训练阶段学的是「预测下一个 token」这件最通用的事,下游任务用 Prompt 表达就行,不用再分别训练。
第二,传统 NLP 模型是判别式的,吃一段文本输出一个标签或概率;LLM 是生成式的,吃一段文本输出更多文本,理解和生成在同一个模型里完成。
RAG 主要解决三个问题。
第一是知识时效性,LLM 训练完知识就固定了,训练截止日期之后发生的事它一无所知;
第二是私有知识覆盖,公司内部文档、行业专有数据根本没有机会进训练集,LLM 对这些内容是空白的;
第三是幻觉问题,没有知识依据时 LLM 容易「自己发挥」编出一个听起来合理但实际错误的答案,给了它参考资料之后幻觉就少很多。
这三个问题的根源都是同一件事,知识被固化在了模型参数里。RAG 的解法是把知识存到外部,用的时候实时检索注入,彻底绕开了参数里的知识限制。
模型怎么被训练出工具调用能力,以及训练好之后运行时是怎么工作的。
训练层面靠两个阶段: