AI 1000问：CNN、RNN、Transformer、大语言模型与强化学习
本篇覆盖 AI 全景题库中神经网络架构、词嵌入、视觉、注意力机制、大语言模型和强化学习基础问题。
一、CNN 与序列模型
Q1. 卷积层在图像上做什么？3×3 和 5×5 卷积核有什么区别？
答案： 卷积核是一组可学习权重，在输入特征图的局部窗口上滑动，对窗口内数值做加权求和，产生新的特征图。浅层卷积常学习边缘、方向和纹理等局部模式，深层组合成更复杂的形状和语义特征。
参数量约为：
(kernel_height * kernel_width * input_channels + bias) * output_channels- 3×3：感受野较小，参数较少，堆叠多层可逐步扩大感受野。
- 5×5：单层感受野较大，但参数和计算更多。
- stride 控制滑动步长，padding 控制边界处理和输出尺寸；多通道卷积会对所有输入通道加权求和。
选择核大小要结合分辨率、网络深度、计算预算和任务验证，不是越大越好。
Q2. 最大池化和平均池化有什么用？
答案： 池化对局部区域做下采样，减少空间尺寸和后续计算。最大池化保留局部最大响应，突出强特征；平均池化保留局部平均响应，平滑局部变化。
池化可降低小幅平移/局部扰动带来的敏感性，但并不保证严格的平移不变性。现代网络也常用 stride convolution、全局平均池化或其他下采样模块替代传统池化。
Q3. 为什么 CNN 通常比全连接网络更适合图像？
答案： 图像像素具有局部空间结构。CNN 利用：
- 局部连接：一个神经元只看局部邻域，符合图像局部相关性。
- 权重共享：同一卷积核在不同位置复用，参数量远少于全连接层。
- 平移等变性：输入特征平移时，卷积特征图会相应平移；池化/下采样等可带来一定局部不变性。
纠正术语： 卷积本身主要提供平移等变性，不是严格平移不变性。全连接网络也能处理图像，但直接展平会丢失显式空间邻接结构并产生大量参数。
Q4. RNN 怎样处理序列？隐藏状态为什么像“记忆”？
答案： RNN 按时间步读取序列，每一步将当前输入与上一步隐藏状态结合，更新新的隐藏状态：
h_t = f(W_x * x_t + W_h * h_(t-1) + b)
y_t = g(W_y * h_t)h_t 汇总了模型到当前时刻处理过的信息，因此可看作压缩的历史状态。RNN 参数在时间步之间共享，适合序列数据；但长序列训练可能遇到梯度消失/爆炸，且推理通常按时间步串行计算。
Q5. RNN 为什么会梯度消失？长句子为什么难记住开头？
答案： 反向传播穿过很多时间步时，梯度会连续乘以权重矩阵和激活函数导数。如果这些乘积的范数长期小于 1，梯度会指数级缩小，早期时间步的参数难以获得有效更新；若范数长期大于 1，则可能梯度爆炸。
常见改进：
- LSTM/GRU 用门控结构控制信息保留与更新。
- 梯度裁剪缓解梯度爆炸。
- 残差连接、归一化和更合适的初始化改善优化。
- Transformer 用注意力建立较短的信息交互路径，但也有上下文长度和计算成本限制。
Q6. LSTM 的遗忘门、输入门和输出门分别做什么？
答案： LSTM 维护细胞状态 c_t，并通过门控决定保留、写入和输出多少信息。
- 遗忘门 f_t：控制旧细胞状态保留多少。
- 输入门 i_t：控制候选新信息写入多少。
- 输出门 o_t：控制细胞状态中有多少信息暴露为隐藏状态 h_t。
典型形式：
f_t = sigmoid(W_f [h_(t-1), x_t] + b_f)
i_t = sigmoid(W_i [h_(t-1), x_t] + b_i)
g_t = tanh(W_g [h_(t-1), x_t] + b_g)
c_t = f_t * c_(t-1) + i_t * g_t
o_t = sigmoid(W_o [h_(t-1), x_t] + b_o)
h_t = o_t * tanh(c_t)细胞状态提供较直接的信息通路，门控可学习长期保留或更新信息，但不意味着 LSTM 能无限记忆。
二、词嵌入与视觉输入
Q7. Word2Vec 怎样把单词变成向量？“国王−男人+女人≈女王”为什么会出现？
答案： Word2Vec 通过上下文预测任务学习词向量。两种经典训练方式：
- CBOW：用上下文词预测中心词。
- Skip-gram：用中心词预测周围上下文词。
训练过程中，出现在相似上下文中的词会形成相近向量。部分语义关系会在向量空间中表现为近似方向，因此可能出现“国王−男人+女人≈女王”这类向量类比。
这不是严格的语言逻辑规则，也不保证对所有词、语料和训练方法成立；它是特定训练语料与目标函数形成的几何结构。
Q8. 224×224 彩色图片包含多少数值？第一层卷积有多少参数？
答案： 若图片为 224×224、RGB 三通道，则原始像素共有：
224 * 224 * 3 = 150,528个通道数值。进入网络前通常还会做缩放、归一化、裁剪等预处理。若第一层使用 3×3 卷积、输入通道 3、输出通道 64、每个输出通道有一个 bias，则参数量为：
(3 * 3 * 3 + 1) * 64 = 1,792注意参数量与输出特征图大小不是一回事；卷积核在空间位置共享，因此不会为每个像素位置重新学习一套参数。
三、Transformer 与注意力机制
Q9. Attention 的直觉是什么？Q、K、V 分别代表什么？
答案： 注意力机制让每个位置根据相关性从其他位置汇总信息。可以把它理解为查询（Query）与键（Key）计算匹配分数，再用分数对值（Value）加权求和。
缩放点积注意力：
Attention(Q,K,V) = softmax(QK^T / sqrt(d_k)) V- Q：当前查询“我需要什么信息”。
- K：每个位置提供“我有什么特征可被匹配”。
- V：匹配后实际取回并汇总的内容。
Q/K/V 通常由输入表示经过可学习线性变换得到；多头注意力在不同子空间并行学习不同关系。
Q10. Self-Attention 与 RNN 有什么本质区别？Transformer 为什么更容易并行？
答案： RNN 的第 t 步依赖第 t−1 步隐藏状态，序列计算存在时间递归依赖；Self-Attention 则让序列中各位置根据注意力权重直接交互，在训练时可对多个位置并行计算，因此更适合大规模矩阵运算和 GPU 并行。
但 Transformer 并非所有环节都完全并行：自回归语言模型在生成阶段通常仍需逐 token 生成；长序列注意力的计算/显存成本也会随序列长度显著增长。
Q11. Transformer 为什么需要位置编码？
答案： 标准 Self-Attention 本身对输入 token 的排列具有置换等变性：若没有位置信息，模型难以区分“狗咬人”和“人咬狗”这类顺序差异。因此需要把位置信息注入 token 表示或注意力计算。
常见方法包括：
- 绝对位置编码：正弦/余弦位置编码或可学习位置向量。
- 相对位置偏置：在注意力分数中加入位置关系。
- RoPE：对 Query/Key 施加旋转位置变换，使注意力分数携带相对位置信息。
不同模型采用不同方案；上下文长度扩展还需考虑位置编码外推和训练分布。
四、大语言模型基础
Q12. GPT 的自回归与 BERT 的双向建模有什么区别？
答案： GPT 类自回归模型按从左到右的因果掩码预测下一个 token，预测当前位置时只能看到此前 token；BERT 类掩码语言模型在训练时遮住部分 token，并利用左右两侧上下文预测被遮住内容。
- 自回归目标适合连续生成文本，推理时自然按 token 逐步生成。
- Masked Language Modeling 适合理解型表示学习，可同时利用左右文。
- 两者的预训练目标不同，不应简单说 GPT“只懂左边”、BERT“不能生成”；具体能力还受模型结构和后训练影响。
Q13. 什么是涌现能力？为什么模型规模变大后看起来突然会某些任务？
答案： 涌现能力通常指模型规模增加到某个范围后，某些任务指标出现明显跃升或此前几乎无法完成的行为变得可观察。
但“突然”不一定意味着模型内部能力发生了离散相变：阈值型评测、提示方式、样本数量和指标聚合都可能让连续改进看起来像突然出现。不同研究对涌现现象的定义和解释仍有争论。
评估时应检查任务是否有可靠基准、是否存在数据污染、是否能稳定复现，以及能力是否能迁移到不同提示和真实场景。
Q14. 上下文窗口为什么有限？模型“忘记”开头内容的原因是什么？
答案： 上下文窗口限制一次推理可处理的 token 数量，受模型训练配置、位置编码、注意力计算和推理系统资源限制。超过窗口的文本可能被截断、滑窗丢弃或压缩；即使仍在窗口内，模型也可能因信息分散、注意力竞争或检索失败而未能正确使用早期内容。
因此，“窗口内”不等于“必然记住”。长文档应用应使用分块、检索、摘要、结构化记忆和来源引用，而不是只把所有文本塞进上下文。
五、强化学习基础
Q15. 强化学习的 Agent、Environment、Action、Reward 是什么关系？
答案： 强化学习描述智能体与环境交互、根据奖励信号学习策略的过程：
- Agent 在时刻 t 观察状态/观测 s_t。
- 根据策略 π 选择动作 a_t。
- Environment 转移到新状态 s_(t+1)，并给出奖励 r_(t+1)。
- Agent 根据长期回报更新价值函数或策略。
AlphaGo 中落子是动作，棋盘局面是状态，胜负结果可作为终局奖励；训练目标不是只最大化下一步即时奖励，而是最大化长期累计回报。
Q16. 探索与利用如何权衡？
答案： 利用（Exploitation）是选择当前估计回报最高的动作；探索（Exploration）是尝试尚未充分了解的动作，以发现可能更好的策略。
常见方法：
- ε-greedy：以 ε 概率随机探索，否则选择当前最优动作。
- UCB：在价值估计中加入不确定性奖励，鼓励访问较少的动作。
- Thompson Sampling：从后验分布采样策略，兼顾不确定性和收益。
探索太少会过早陷入次优策略；探索太多则浪费资源或带来安全风险。机器人/车辆等真实系统需要在仿真或安全约束下探索，不能随意在真实环境试错。