组1:基础概念(总纲)
| 关键词 |
一句话定位 |
| AI |
让机器模拟人类智能的总学科 |
| AGI |
终极目标,全能人类水平的AI |
| ANI |
弱人工智能,只会干一件事(如下棋) |
| ASI |
超级人工智能,全面超越人类智慧的AI |
组2:核心模型(大脑本身)
| 关键词 |
一句话定位 |
| LLM |
大语言模型,GPT、文心一言都是它 |
| SLM |
小语言模型,轻量级,能跑在手机上 |
| 多模态模型 |
能同时看懂文字、图片、视频的模型 |
| 基础模型 |
没做任何微调的"原始大脑" |
| MoE(混合专家) |
每次只激活部分参数,省算力,GPT-4/DeepSeek在用 |
组3:输入输出(原材料与产品)
| 关键词 |
一句话定位 |
| Token |
模型处理的最小文字碎片,计价单位 |
| Prompt |
你输入给模型的提问/指令 |
| Completion |
模型吐出来的回答/补全 |
| Context |
上下文,模型当前记住的对话内容 |
| Context Window |
上下文窗口,模型一次最多能记住多少Token |
| System Message |
系统消息,设定对话基调 |
| User Message |
用户消息,你发的每条内容 |
| Assistant Message |
助手消息,模型每次的回复 |
| Streaming |
流式输出,一个字一个字往外蹦的效果 |
组4:工程化方法(怎么让模型听话)
| 关键词 |
一句话定位 |
| Template |
固定格式的提示词模板 |
| System Prompt |
系统级指令,设定角色(如"你是客服") |
| Few-shot |
给模型几个示例再让它回答 |
| Zero-shot |
不给示例,直接提问 |
| Fine-tuning |
微调,用新数据训练模型,让它变专精 |
| Chain-of-Thought(CoT) |
思维链,让模型"一步步思考"再给答案 |
| Tree-of-Thought(ToT) |
思维树,让模型尝试多条推理路径,选最优 |
| Self-Consistency |
自一致性,让模型多次回答,投票选最靠谱的 |
| ReAct |
推理+行动,让模型边推理边调用工具,循环迭代 |
| Prompt Engineering |
提示词工程,设计最优提示词的技术 |
| DSPy |
用编程方式自动优化提示词和权重的框架 |
组5:应用形式(让模型干活)
| 关键词 |
一句话定位 |
| Agent |
智能体,能调用工具、自主拆解任务的AI |
| RAG |
检索增强生成,先查资料再回答,防胡说 |
| Plugin |
插件,给模型外挂功能(如查天气) |
| Workflow |
工作流,把多个步骤串成自动化流程 |
| Function Calling |
函数调用,模型主动请求调用外部API |
| Tool |
工具,模型能调用的外部能力(计算器、搜索) |
| Multi-Agent |
多智能体,多个Agent分工协作 |
| Agentic AI |
有自主决策能力的AI,比普通Agent更高阶 |
| Copilot |
辅助编程/办公的AI助手 |
组6:训练与优化(怎么造出大脑)
| 关键词 |
一句话定位 |
| 预训练 |
用海量数据从头训练基础模型 |
| SFT(监督微调) |
用人工标注的好数据教模型 |
| RLHF |
基于人类反馈的强化学习,让模型对齐人类偏好 |
| DPO |
直接偏好优化,RLHF的简化替代版 |
| Embedding |
向量嵌入,把文字转成数字向量 |
| Attention |
注意力机制,模型决定"重点看哪部分" |
| Loss |
损失值,模型预测错误的程度,越低越好 |
| Epoch |
轮次,全部数据过一遍模型算1个epoch |
| Batch Size |
批次大小,一次喂多少条样本 |
| Learning Rate |
学习率,每次更新的步长 |
| Gradient Descent |
梯度下降,优化算法的核心数学方法 |
| Overfitting |
过拟合,死记硬背不会举一反三 |
| Hallucination |
幻觉,模型胡说八道编造不存在的事 |
| LoRA |
低秩适配,轻量微调,只改小部分参数省显存 |
| QLoRA |
量化版LoRA,更省显存,单卡能跑大模型 |
| Context Distillation |
上下文蒸馏,把长提示词"压缩"进模型参数里 |
组7:生成控制(怎么让模型有创意地说话)
| 关键词 |
一句话定位 |
| Temperature |
温度,控制随机性,0=最确定,1=最放飞 |
| Top-k |
只从概率最高的k个词里选 |
| Top-p(Nucleus Sampling) |
核采样,从概率加起来达到p%的最小词集里选 |
| Frequency Penalty |
频率惩罚,减少重复词 |
| Presence Penalty |
存在惩罚,鼓励引入新话题 |
| Seed |
随机种子,固定后每次生成结果一样 |
| Max Tokens |
最大输出长度,限制回答字数 |
| Stop Sequences |
停止序列,遇到特定字符就截断 |
| Logits |
模型输出的原始分数(未转概率的数值) |
| Logit Bias |
人为调整某个词的得分 |
组8:开发框架与工具链(程序员区)
| 关键词 |
一句话定位 |
| LangChain |
最火的AI应用开发框架,把LLM和工具链串起来 |
| LlamaIndex |
专攻RAG的数据索引框架,擅长连数据库 |
| Hugging Face |
AI界的GitHub,下模型、数据集都在这 |
| Transformers |
Hugging Face的核心库,封装了所有主流模型架构 |
| PyTorch |
深度学习框架,目前最主流 |
| TensorFlow |
深度学习框架,Google出品 |
| vLLM |
高性能推理引擎,让模型回答速度翻倍 |
| Ollama |
本地一键跑开源模型,像Docker一样简单 |
| LangSmith |
调试和监控LLM应用的全链路工具 |
| Dify |
国内流行的低代码AI应用搭建平台 |
| AutoGPT |
早期爆火的自主Agent实验项目 |
| BabyAGI |
早期爆火的自主Agent实验项目 |
| RAGFlow |
专注RAG流程的开源框架 |
组9:评估与指标(怎么判断模型好坏)
| 关键词 |
一句话定位 |
| Perplexity |
困惑度,模型对语言有多"意外",越低越准 |
| BLEU |
翻译/生成任务的匹配度评分 |
| ROUGE |
摘要任务的评分,看关键信息覆盖多少 |
| MMLU |
多任务语言理解基准,AI高考 |
| GSM8K |
数学推理数据集,考模型解题能力 |
| HumanEval |
代码生成测试集,考模型写代码对不对 |
| Hallucination Score |
幻觉评分,衡量模型胡说的程度 |
| Toxicity Score |
毒性评分,检测输出是否有害内容 |
| Latency |
延迟,模型响应速度(毫秒) |
| Throughput |
吞吐量,每秒能处理多少Token |
| Benchmark |
基准测试,行业内公认的"考试卷" |
组10:模型架构与参数(硬核技术区)
| 关键词 |
一句话定位 |
| Transformer |
2017年提出的架构,所有现代LLM的祖宗 |
| Self-Attention |
自注意力,让模型看全局不只看相邻词 |
| Multi-Head Attention |
多头注意力,多组注意力并行捕捉不同关系 |
| Feed-Forward Network |
前馈网络,Attention之后的计算层 |
| Layer Normalization |
层归一化,稳定训练防止数值爆炸 |
| Residual Connection |
残差连接,跳过几层直接传,防止梯度消失 |
| Positional Encoding |
位置编码,给模型补上"词序"信息 |
| KV Cache |
键值缓存,生成时复用历史结果加速推理 |
| Quantization |
量化,压缩模型精度(如FP16→INT8),减体积提速度 |
| Flash Attention |
快速注意力,优化Attention计算,又快又省显存 |
| LSTM |
长短期记忆网络,Transformer前的序列模型老前辈 |
| RNN |
循环神经网络,更早的序列模型 |
| GAN |
生成对抗网络,让两个模型互相博弈生成内容 |
组11:数据与知识(模型吃的东西)
| 关键词 |
一句话定位 |
| Corpus |
语料库,训练用的全部文本集合 |
| Dataset |
数据集,带标注的样本集合 |
| Annotation |
标注,人工给数据打标签 |
| Synthetic Data |
合成数据,AI自己生成的数据用来训练另一个AI |
| Knowledge Base |
知识库,结构化存储的事实,RAG常连它 |
| Vector Database |
向量数据库,存Embedding专供语义检索 |
| Chunking |
分块,把长文档切成小段方便塞进RAG |
| Data Cleaning |
数据清洗,去重、过滤垃圾内容 |
组12:安全与对齐(让AI别学坏)
| 关键词 |
一句话定位 |
| AI Alignment |
对齐,让AI的目标和人类价值观一致 |
| Red Teaming |
红队测试,用恶意提示词攻击AI找漏洞 |
| Jailbreak |
越狱,用花式提示词绕过AI的安全护栏 |
| Prompt Injection |
提示词注入,把恶意指令藏在用户输入里劫持AI |
| Content Moderation |
内容审核,过滤色情、暴力、政治敏感 |
| PII |
个人可识别信息,AI不能泄露的隐私数据 |
| Constitutional AI |
宪法AI,给AI写"家规"让它自我审查 |
| Watermarking |
水印,给AI生成的内容打隐形标记防伪造 |
组13:多模态专属(看图听声专用词)
| 关键词 |
一句话定位 |
| Vision Transformer(ViT) |
把Transformer架构搬到图像上 |
| CLIP |
OpenAI的图文匹配模型,能理解"图里有什么" |
| Whisper |
OpenAI的语音识别模型,音频→文字 |
| Stable Diffusion |
爆火的文生图模型,文字→图片 |
| DALL-E |
OpenAI的文生图模型 |
| Sora |
OpenAI的文生视频模型,文字→视频 |
| VQ-VAE |
把图像压缩成离散编码,常用于生成模型 |
| Cross-Attention |
跨模态注意力,让文字和图片"对上眼" |
| Image Captioning |
图像描述,给图配一段文字说明 |
| OCR |
光学字符识别,从图片里抠出文字 |
组14:前沿研究方向(论文里常见)
| 关键词 |
一句话定位 |
| Scaling Law |
缩放定律,模型越大、数据越多、算力越强效果越好 |
| Emergent Ability |
涌现能力,模型变大后突然"顿悟"的新技能 |
| Chain-of-Draft |
让模型像打草稿一样先写中间步骤再输出 |
| Self-Play |
自我对弈,自己跟自己玩(AlphaGo用这招) |
| Meta-Learning |
元学习,学会"如何学习"本身 |
| Few-Shot Learning |
小样本学习,只给几个例子就能学会 |
| Zero-Shot Learning |
零样本学习,没见过的任务也能泛化 |
| World Model |
世界模型,让AI在脑中模拟物理世界规律 |
| AGI Safety |
AGI安全,防止超级AI灭世(正经研究领域) |
组15:容易混淆的"双胞胎词"(避坑指南)
| 关键词 |
区别(一句话说清) |
| Fine-tuning vs. LoRA |
全量微调(全改)vs. 轻量微调(只改小部分) |
| RAG vs. Fine-tuning |
RAG外挂知识库(动态查)vs. Fine-tuning融进模型(静态记) |
| Prompt vs. System Prompt |
用户每次发的 vs. 始终在后台设定的角色指令 |
| Temperature vs. Top-p |
温度调整体随机性 vs. Top-p调候选池大小 |
| AI vs. AGI |
现在的 vs. 终极目标 |
| Agent vs. Workflow |
Agent自主决策 vs. Workflow固定流程 |
| Embedding vs. Token |
数字向量(存数据库)vs. 文字碎片(算钱) |
| Inference vs. Training |
推理(用模型)vs. 训练(造模型) |
组16:商业与生态(行业黑话)
| 关键词 |
一句话定位 |
| API Key |
调用模型的"门禁卡" |
| Rate Limit |
速率限制,每分钟最多调多少次防滥用 |
| Serverless |
无服务器,不用管机器按调用次数付费 |
| Edge AI |
端侧AI,在手机/汽车上本地跑模型不用联网 |
| MaaS |
模型即服务,像水电一样按量卖AI能力 |
| Open Source |
开源,代码公开 |
| Closed Source |
闭源,只给API不给代码 |
| Prompt Market |
提示词交易市场,卖好的提示词模板 |
组17:AI通信协议(让AI和工具、AI和AI说同一种话)
| 关键词 |
一句话定位 |
关键特点 |
| MCP |
AI调用外部工具的"万能USB接口",标准化连接数据库、API、文件等 |
Anthropic推出,客户端-服务器架构,内置OAuth 2.1安全机制 |
| A2A |
AI智能体之间的"普通话",让不同厂商的Agent互相协作 |
Google推出,基于HTTP/JSON-RPC,通过Agent Card声明能力 |
| AG-UI |
AI与用户界面的"交互规范",标准化前后端实时双向通信 |
与MCP、A2A并称"三剑客" |
三大协议分工关系
| 协议 |
解决什么问题 |
类比 |
| MCP |
AI ↔ 工具/数据 |
万能USB接口 |
| A2A |
AI ↔ AI |
团队协作的普通话 |
| AG-UI |
AI ↔ 用户界面 |
前后端交互标准 |
可与Function Calling配合理解:Function Calling是模型调用工具的具体动作,而MCP是将这个动作标准化的协议框架。