如果你用过 ChatGPT、Claude、DeepSeek 或 Kimi你一定会好奇它们为什么能写诗、写代码、做翻译、回答问题甚至理解你的意图这篇文章会从最基础的概念出发讲清楚大语言模型LLM到底是什么、它是怎么被训练出来的、为什么它既能胡说八道又能写出惊艳的代码以及作为程序员该如何利用它。一、先回答一个最直接的问题什么是 LLMLLM全称 Large Language Model中文叫大语言模型。拆开看-Large大指参数量大几十亿到几千亿训练数据也大数万亿 token。-Language语言它的输入和输出都是人类语言包括自然语言和编程语言。-Model模型一个由神经网络表示的数学函数能根据输入预测输出。一句话总结LLM 是一个被训练来预测下一个词的超级大的神经网络。你没看错。ChatGPT 看起来能聊天、能写代码、能做推理本质上它只是在反复做一件事给定前面已经出现的词猜下一个最有可能出现的词。输入今天天气很输出好概率 0.85、差概率 0.10、热概率 0.03...它会选概率最高的那个然后把这个词拼回上下文再猜下一个词如此循环直到生成完整的句子或代码。二、LLM 和以前的 AI 有什么不一样在 LLM 之前AI 处理语言的方式是典型的任务导向任务传统做法需要做什么情感分析人工设计特征 SVM/朴素贝叶斯收集标注数据、分词、提取特征、训练分类器机器翻译统计机器翻译或规则系统大量双语平行语料、复杂特征工程问答系统检索 模板匹配构建知识库、写匹配规则代码补全基于语法树或统计 n-gram针对特定语言建模传统 AI 是一个任务一个模型做情感分析就训练一个情感分类模型做翻译就训练一个翻译模型做代码补全就训练一个代码模型。LLM 的范式转移是一个模型做所有事- 同一个模型可以翻译、摘要、问答、写代码、写诗、改 bug。- 你不需要重新训练模型只需要换一种说法——也就是 Prompt。这种能力叫涌现能力Emergent Abilities。当模型规模大到一定程度它会突然展现出训练时并没有明确教过它的能力比如上下文学习、推理、代码生成等。三、核心机制下一个词预测到底有多神奇LLM 的核心训练目标非常朴素给定一段文本预测下一个 token。3.1 什么是 tokentoken 是 LLM 处理文本的最小单位。它不是严格的字或词而是模型分词器切出来的片段。英文中一个 token 可能是一个词或词的一部分。中文中一个 token 通常是 1~2 个汉字。数字和标点也会被切分成特定 token。例如我爱人工智能 可能被切成 [我, 爱, 人工, 智能]3.2 预测过程的本质当模型看到我爱时它会输出一个概率分布下一个 token概率你0.40吃0.20人工0.15编程0.10......然后模型选择概率最高的词或按一定策略采样接在我爱后面变成我爱你再预测下一个词。这种一个接一个字地猜的能力看起来简单但当模型看过互联网上海量的文本、代码、论文、对话后它实际上学会了- 语法规则- 世界知识巴黎是法国首都- 推理模式如果 A 则 B- 编程语言的语法和常见模式- 对话的回合结构3.3 一个简单的 Python 演示你可以用 Hugging Face 的 transformers 库实际感受一下 LLM 是怎么预测下一个词的from transformers import AutoTokenizer, AutoModelForCausalLM import torch # 加载一个小模型GPT-2作为演示 model_name gpt2 tokenizer AutoTokenizer.from_pretrained(model_name) model AutoModelForCausalLM.from_pretrained(model_name) prompt The weather today is inputs tokenizer(prompt, return_tensorspt) # 让模型生成下一个 token with torch.no_grad(): outputs model(**inputs) logits outputs.logits[0, -1, :] # 最后一个位置的 logits probs torch.softmax(logits, dim-1) # 取概率最高的 5 个 token top_k torch.topk(probs, k5) for idx, prob in zip(top_k.indices, top_k.values): word tokenizer.decode([idx]) print(f{word!r}: {prob:.4f})运行后你会看到类似这样的结果 great: 0.1523 good: 0.0987 nice: 0.0654 very: 0.0432 not: 0.0312这就是 LLM 的本能预测下一个词。聊天、写代码、做翻译都是这个本能的复合应用。四、LLM 是怎么被训练出来的训练一个 LLM 通常分为三个阶段预训练、监督微调SFT和基于人类反馈的强化学习RLHF。4.1 第一阶段预训练Pre-training目标让模型学会语言和世界知识。数据互联网上能抓到的几乎所有文本网页、书籍、论文、代码、论坛、维基百科等。现代大模型训练数据规模通常是万亿级 token。过程- 把文本切成 token 序列。- 遮住后面的 token让模型预测下一个 token。- 计算预测结果和真实结果的差异损失用反向传播调整模型参数。- 重复数万亿次。这个阶段非常耗时需要数千张 GPU/TPU 训练数周甚至数月成本高达数千万到数亿美元。预训练结束后模型已经能- 续写句子- 补全代码- 回答简单的事实性问题- 做基本的翻译和摘要但它还不会对话可能胡说八道也可能输出不安全、不友好的内容。4.2 第二阶段监督微调SFT目标让模型学会以人类期望的方式回答问题。数据人工标注的高质量对话数据。例如用户请介绍一下 Python 的列表推导式。 助手Python 的列表推导式是一种简洁创建列表的方式... 用户把这句话翻译成英文你好世界。 助手Hello, world.过程- 把这些问答对输入模型。- 模型学习的是当输入是用户问题时输出应该是合适的助手回答。经过 SFT模型从一个自动续写器变成了会聊天的助手。4.3 第三阶段RLHF人类反馈强化学习目标让模型输出更符合人类偏好、更安全、更有用。问题SFT 的数据量有限无法覆盖所有场景。而且模型可能学会编造听起来合理但实际错误的答案。RLHF 的做法1. 对同一个问题让模型生成多个不同回答。2. 人类标注员对这些回答进行排序哪个更好、哪个更真实、哪个更安全。3. 训练一个奖励模型Reward Model让它学会预测人类偏好。4. 用强化学习比如 PPO 算法微调 LLM让它生成奖励模型打分更高的回答。经过 RLHF模型会- 更愿意承认不知道而不是编造答案。- 更礼貌、更有帮助。- 拒绝回答有害问题。五、规模带来的涌现能力LLM 最神奇的地方在于很多能力并不是线性增长的而是当模型大到一定程度后突然涌现出来。5.1 上下文学习In-Context Learning你不需要重新训练模型只需要在 Prompt 里给几个例子模型就能模仿。请把以下中文翻译成英文 猫 - cat 狗 - dog 老虎 -模型会输出tiger。它从你给的两个例子里学会了这个任务。5.2 推理能力Chain-of-Thought当模型规模足够大它会展现出多步推理能力。如果在 Prompt 里加上请一步步思考模型会生成中间推理步骤最终答案准确率大幅提升。问一个篮子里有5个苹果拿走2个又放进3个现在有几个 请一步步思考。 答 1. 一开始有5个苹果。 2. 拿走2个剩下 5 - 2 3 个。 3. 又放进3个变成 3 3 6 个。 4. 所以答案是6个。5.3 代码能力LLM 在大量代码上训练后学会了编程语言的语法、常见算法、API 用法。这催生了 GitHub Copilot、Cursor、Windsurf 等 AI 编程工具。六、LLM 的幻觉与局限LLM 不是真正的理解世界它只是学会了文本中的统计模式。因此它有几个明显局限6.1 幻觉Hallucination模型会自信地编造不存在的事实、论文、代码或数据。例如- 编造一个不存在的人名和公司。- 给出一个看似合理但跑不通的代码。- 引用一篇不存在的论文。原因训练目标是生成看起来像真的文本而不是保证真实性。6.2 知识截止模型只能知道训练数据里的内容。如果训练数据截止到 2024 年它不知道 2025 年发生的事。6.3 上下文长度有限虽然现代模型上下文已经能达到几十万甚至上百万 token但仍然有限。处理超长文档时需要分块、摘要等策略。6.4 缺乏真正的推理和计算LLM 不擅长精确的数学计算和逻辑推理。它可能把 13×17 算错或者在进行多步推理时丢失前提条件。七、LLM 在 AI Coding 中的应用对于程序员来说LLM 最大的价值在于把自然语言意图转换成代码、配置和命令。典型应用场景包括7.1 代码补全与生成# 输入注释模型生成代码 # 写一个函数计算两个日期之间的工作日天数 def workdays_between(start_date, end_date): 计算两个日期之间的工作日天数不含节假日 from datetime import timedelta, datetime delta end_date - start_date count 0 for i in range(delta.days 1): day start_date timedelta(daysi) if day.weekday() 5: # 周一到周五 count 1 return count7.2 代码解释与重构你可以把一段难懂的代码丢给 LLM让它解释或改成更清晰的写法。7.3 调试与错误分析把报错信息贴给 LLM它能帮你定位问题、给出修复建议。7.4 辅助架构设计在搭建新系统时可以让 LLM 帮你设计目录结构、选择技术栈、生成骨架代码。八、常见误区误区 1LLM 有真正的理解能力LLM 并不理解概念它学习的是语言中的统计相关性。它能把猫和狗联系得很近是因为这两个词在文本中经常以相似方式出现。误区 2模型越大就一定越好模型大只是一方面。数据质量、训练方法、对齐技术、推理效率同样重要。有时候一个 70B 的优化模型可能比未经优化的 400B 模型更实用。误区 3LLM 会取代程序员目前 LLM 更像是超级副驾驶。它能加速编码、减少重复劳动但复杂架构设计、业务理解、系统权衡仍然需要人类工程师。误区 4LLM 输出可以直接用于生产生产环境使用 LLM 生成的代码前必须经过测试、审查和安全评估。幻觉和错误输出是真实存在的风险。九、总结LLM 的本质是通过在海量文本上预测下一个 token学会语言的统计规律和世界知识的统计关联。它的训练分为三个阶段1.预训练从互联网数据学习语言和世界知识。2.SFT学会以对话助手的方式回答问题。3.RLHF对齐人类偏好输出更安全、更有用的内容。当模型规模足够大时会涌现出上下文学习、推理、代码生成等能力。但它也有幻觉、知识截止、计算不精确等局限。对于程序员而言理解 LLM 的本质不是为了成为算法工程师而是为了更好地使用它——知道它擅长什么、不擅长什么什么时候可以依赖它什么时候必须人工校验。如果你已经读完了这篇文章你应该已经能比大多数人更清楚地回答一个问题ChatGPT 为什么能说话因为它被训练了数万亿次只为做好一件事猜下一个词。参考与延伸阅读- 《Attention Is All You Need》—— Transformer 架构奠基论文- OpenAI GPT 系列技术报告- 《Training language models to follow instructions with human feedback》InstructGPT 论文- Hugging Face transformers 文档
