AI 名词释义

关于本文档 一份持续更新的人工智能术语速查手册，按类别整理，方便在 Obsidian 中检索与链接。

#ai #glossary #reference #evergreen

📖 基础概念

人工智能（Artificial Intelligence, AI）

通过计算机程序模拟人类智能的技术总称，涵盖感知、推理、学习、决策等能力。

机器学习（Machine Learning, ML）

#人工智能AI 的子领域，让计算机从数据中自动学习规律，而非通过显式编程。

核心思想：用数据 + 算法训练出模型。

深度学习（Deep Learning, DL）

#机器学习机器学习 的子集，使用多层神经网络（深度神经网络）从大规模数据中学习层次化特征表示。

神经网络（Neural Network）

受生物神经元启发的计算模型，由多层相互连接的”神经元”组成，通过调整连接权重来学习。是 #深度学习 的基础单元。

参数（Parameters）

模型内部可学习的变量（权重和偏置），决定了模型的行为。参数量越大，模型容量通常越高。

例如 #大语言模型（Large Language Model, LLM）GPT-4 据估计拥有约 1.8 万亿参数。

🧠 模型类型

大语言模型（Large Language Model, LLM）

在海量文本上训练的巨型神经网络，能够理解和生成自然语言。

• 代表模型：GPT-4、Claude、Gemini、Llama、DeepSeek、Qwen
• 核心架构：基于 #Transformer，常采用 #MoE（Mixture of Experts）MoE 架构

多模态模型（Multimodal Model）

能同时处理多种数据类型（文本、图像、音频、视频）的模型。

• 代表：GPT-4o、Gemini、Claude 3.5 等

基础模型（Foundation Model）

在大规模广泛数据上预训练的通用模型，可通过 #微调（Fine-tuning）微调 适配各种下游任务。

扩散模型（Diffusion Model）

一种生成模型，通过逐步去噪随机噪声来生成数据（如图像）。

• 代表：Stable Diffusion、DALL·E、Midjourney

嵌入模型（Embedding Model）

将文本/图像等非结构化数据转换为固定长度的数值向量（Embedding），用于语义搜索、聚类等。常配合 #向量数据库（Vector Database）向量数据库 和 #RAG（Retrieval-Augmented Generation）RAG 使用。

⚙️ 训练与优化

预训练（Pre-training）

在海量无标注数据上进行初始训练，让模型学习通用的语言/视觉知识。耗时最长、算力消耗最大。

微调（Fine-tuning）

在 #预训练（Pre-training）预训练 模型基础上，用特定领域的小规模标注数据继续训练，使模型适配特定任务。

监督微调（Supervised Fine-Tuning, SFT）

使用人工标注的高质量”指令-回答”对进行 #微调（Fine-tuning）微调，让模型学会遵循指令。

RLHF（Reinforcement Learning from Human Feedback）

基于人类反馈的强化学习。先让人类对模型输出打分排序，再训练奖励模型，最后用强化学习优化模型使其输出更符合人类偏好。参见 #DPO（Direct Preference Optimization）DPO。

DPO（Direct Preference Optimization）

直接偏好优化，#RLHF（Reinforcement Learning from Human Feedback）RLHF 的简化替代方案。直接从偏好数据中优化模型，无需单独训练奖励模型。

迁移学习（Transfer Learning）

将在一个任务上学到的知识迁移到另一个相关任务上，减少新任务的训练数据和计算需求。

过拟合（Overfitting）

模型在训练数据上表现极好，但在新数据上表现差——即”死记硬背”而非真正理解规律。可通过正则化、#量化（Quantization）量化 等方法缓解。

梯度下降（Gradient Descent）

最核心的优化算法，通过计算损失函数的梯度，沿梯度反方向更新参数，逐步逼近最优解。

🔮 推理与生成

Token

模型处理文本的最小单位，可以是单词、子词或单个字符。计费和上下文长度通常以 Token 计算。

中文大约 1 个汉字 ≈ 1.5-2 个 Token

上下文窗口（Context Window）

模型一次能”看到”的最大 Token 数。长上下文窗口可处理整本书或大量对话历史。

例如 #大语言模型（Large Language Model, LLM）Gemini 1.5 Pro 支持 100 万 Token

提示词（Prompt）

用户输入给模型的指令或问题。好的 Prompt 设计（Prompt Engineering）能显著提升输出质量。进阶技巧如 #思维链（Chain of Thought, CoT）思维链。

RAG（Retrieval-Augmented Generation）

检索增强生成。在生成回答前，先从外部知识库检索相关文档，再结合检索结果生成更准确的回答。

RAG 的优势

• 有效减少 #幻觉（Hallucination）幻觉
• 可结合实时/私有数据
• 常搭配 #嵌入模型（Embedding Model）嵌入模型 和 #向量数据库（Vector Database）向量数据库

思维链（Chain of Thought, CoT）

让模型在给出最终答案前，一步步展示推理过程。可显著提升复杂推理任务的准确率。

幻觉（Hallucination）

模型生成的内容看似合理但实际与事实不符。是当前 LLM 的一大挑战，#RAG（Retrieval-Augmented Generation）RAG 是缓解幻觉的常用手段。

温度（Temperature）

控制生成随机性的参数（0-2）：

• 低温：输出越确定、保守
• 高温：输出越多样、有创造性

Top-p / Top-k

两种控制生成多样性的采样策略：

• Top-p（核采样）：选择累积概率达 p 的 Token 集合
• Top-k：只从概率最高的 k 个 Token 中采样

🤖 Agent & 工具

AI Agent（智能体）

能自主感知环境、制定计划、使用工具、执行多步骤任务的 AI 系统。

核心循环：感知 → 规划 → 行动 → 反馈

工具调用（Function Calling / Tool Use）

模型自动选择并调用外部 API 或函数来完成任务——如查询天气、发送邮件、操作数据库。是 #AI Agent（智能体）AI Agent 的核心能力之一。

MCP（Model Context Protocol）

Anthropic 提出的开放协议，标准化 AI 模型与外部工具/数据源之间的连接方式。

💡 类似于 AI 世界的 “USB-C 接口”

ReAct（Reasoning + Acting）

一种 Agent 范式，交替进行推理（Thought）和行动（Action），让模型边想边做。#AI Agent（智能体）AI Agent 常用的设计模式。

多 Agent 系统（Multi-Agent System）

多个 #AI Agent（智能体）AI Agent 协作完成复杂任务的系统，各自承担不同角色，相互通信与协调。

🏗️ 架构与技术

Transformer

当前几乎所有 LLM 的基础架构（2017 年由 Google 提出）。

核心创新 自注意力机制（Self-Attention），能并行处理序列中的所有位置。

注意力机制（Attention Mechanism）

让模型在处理某个词时，能够”关注”输入中其他相关位置的信息。是 #Transformer 的核心。

编码器-解码器（Encoder-Decoder）

一种模型架构：编码器将输入压缩为中间表示，解码器从中间表示生成输出。用于翻译、摘要等任务。

MoE（Mixture of Experts）

混合专家架构。模型由多个”专家”子网络组成，每次只激活其中一部分，在保持大容量的同时控制计算成本。

采用此架构的代表：DeepSeek-V2/V3、Mixtral

LoRA（Low-Rank Adaptation）

低秩适配，一种高效的 #微调（Fine-tuning）微调 方法。在原始权重旁添加小型可训练矩阵，大幅减少微调所需的显存和计算。

量化（Quantization）

将模型参数从高精度（如 FP32）压缩为低精度（如 INT4/INT8），显著减小模型体积和推理成本，精度损失可控。

常见量化格式：GGUF、GPTQ、AWQ

🛡️ 评估与安全

基准测试（Benchmark）

用于评估模型能力的标准化测试集。

常见基准：

• MMLU：多任务语言理解
• HumanEval：代码生成
• GSM8K：数学推理

对齐（Alignment）

确保 AI 的行为、价值观与人类意图和伦理一致。涉及三个维度：

HHH 原则

• 有用性（Helpful）
• 诚实性（Honest）
• 无害性（Harmless）

红队测试（Red Teaming）

模拟攻击者角色，主动寻找模型的安全漏洞和潜在滥用方式，以便提前修复。

越狱（Jailbreak）

通过精心设计的 #提示词（Prompt）提示词 绕过模型的安全限制，使其输出本应拒绝的内容。

安全护栏（Guardrails）

部署在模型输入/输出端的过滤和检查机制，防止有害内容、敏感信息泄露等问题。

🚀 部署与工程

推理（Inference）

训练好的模型对新输入进行计算并产出的过程。推理速度直接影响用户体验。

延迟（Latency）

从发送请求到收到首个响应（TTFT，Time to First Token）或完整响应的时间。

GPU / TPU / NPU

向量数据库（Vector Database）

专门存储和检索向量（Embedding）的数据库，支持高效的语义相似度搜索。

• 代表：Pinecone、Milvus、Weaviate、Chroma
• 常见用途：配合 #RAG（Retrieval-Augmented Generation）RAG 实现知识库问答

蒸馏（Distillation）

用大模型（教师模型）的输出训练小模型（学生模型），让小模型以更低成本接近大模型的效果。

🌌 前沿方向

AGI（Artificial General Intelligence）

通用人工智能——能在几乎所有认知任务上达到或超越人类水平的 AI，尚未实现。

ASI（Artificial Super Intelligence）

超级人工智能——在所有领域远超最聪明人类的 AI，属于未来假设。

具身智能（Embodied AI）

将 #人工智能（Artificial Intelligence, AI）AI 与物理实体（机器人）结合，使其能在真实世界中感知、行动和交互。

世界模型（World Model）

AI 对物理世界规律的内在表征，使其能预测行动后果、进行规划和推理。

合成数据（Synthetic Data）

由 AI 生成而非人工标注的训练数据。在当前高质量真实数据接近枯竭的背景下日益重要。

Scaling Law（规模法则）

描述模型性能随参数、数据、算力增长而提升的规律。是”大力出奇迹”的理论基础。

使用建议

• 点击 AI 名词释义 可链接到本文档的特定术语
• 配合 Obsidian 的图谱视图（Graph View）可直观查看术语间的关联网络
• 建议在相关笔记中使用 #ai 标签以便聚合

最后更新：2026-06-02