AI 1000问：生成模型、推荐系统、视觉、语音与AI治理
一、集成学习与生成模型
Q1. 随机森林为什么常比单棵决策树稳定？
答案： 随机森林使用 Bagging：对训练样本进行有放回抽样，训练多棵彼此有差异的决策树；每次节点分裂时还随机抽取部分特征，降低树之间的相关性。分类时投票，回归时取平均。
单棵树方差较高；多个相关性较低的树集成后，平均可降低方差。它们不一定都是“弱分类器”，而是通过数据与特征随机化获得多样性。代价是模型更大、推理更慢、整体解释性较弱。
Q2. XGBoost 和随机森林建树方式有什么不同？
答案： 随机森林属于 Bagging：多棵树相对独立训练，最后投票/平均；XGBoost 属于 Gradient Boosting：树按轮次顺序加入，每一轮根据当前模型的损失梯度/二阶信息拟合改进方向。
- Bagging 主要降低方差，树可并行训练。
- Boosting 逐步降低偏差，后续树依赖前面模型的结果；树与树之间通常不能完全并行，但单棵树的部分计算可并行。
XGBoost 通过正则化、列/行采样、缺失值处理和高效分裂算法提升工程性能。Boosting 不等于每棵树简单拟合原始残差，具体目标是优化损失函数的梯度/近似二阶目标。
Q3. GAN 的生成器和判别器在玩什么游戏？
答案： GAN 包含生成器 G 和判别器 D。G 从随机噪声生成样本，试图让生成结果看起来像真实数据；D 学习区分真实样本与生成样本。二者交替训练，形成对抗博弈。
经典目标可写为：
min_G max_D E_x[log D(x)] + E_z[log(1 - D(G(z)))]理想情况下，生成分布接近真实数据分布。但 GAN 训练可能不稳定、模式崩溃（只生成少数模式）、梯度消失或评估困难；“判别器分不出真假”也不自动证明生成质量符合真实应用要求。
二、迁移学习与可解释性
Q4. 为什么 ImageNet 预训练特征可以迁移到 X 光影像？是否只需重训最后几层？
答案： 预训练模型的浅层常学习边缘、纹理、局部形状等相对通用特征，迁移到新任务时可能仍有用；更深层特征通常更依赖原训练数据的类别和领域。
但自然图像与医学影像存在显著领域差异，不能假定前几层永远不用训练。应比较线性探测、冻结骨干网络、部分微调和全量微调，并在患者级划分、外部医院数据和临床指标上验证，防止同一患者图像泄漏到训练与测试两侧。
Q5. 全量微调与 LoRA 有什么区别？LoRA 为什么能用少量参数？
答案： 全量微调更新模型所有或大部分参数；LoRA 冻结原权重 W，只学习一个低秩增量：
W' = W + ΔW
ΔW = B A其中 A、B 的秩 r 远小于原矩阵维度，因此可训练参数显著减少，优化器状态和存储成本也更低。它利用“任务适配所需权重变化可能位于低维子空间”的经验假设。
LoRA 参数占比不固定为 0.1%；取决于模型层数、目标模块、rank 和训练策略。LoRA 不保证所有任务都与全量微调效果相同，需在目标数据上比较。
Q6. LIME 和 SHAP 怎样解释模型预测？有什么不同？
答案：
- LIME：在待解释样本附近扰动输入，观察模型输出变化，再拟合一个局部、可解释的简单代理模型，近似解释该样本附近的预测。
- SHAP：基于 Shapley value 思想，衡量某特征在不同特征组合下对预测的边际贡献，并对组合贡献进行分配。
图像 LIME 常把图像切成 superpixels，再遮挡部分区域观察输出变化；SHAP 的图像解释也依赖特征分组和背景分布，并非简单给每个像素一个天然唯一的因果贡献。
两者都是模型解释工具，不等于真实因果解释；特征相关、背景样本选择、扰动分布和模型非线性都会影响结果。
三、推荐系统与视觉任务
Q7. 协同过滤与基于内容的推荐有什么区别？“买了这个也买那个”属于哪种？
答案：
- 协同过滤：利用用户—物品交互矩阵中的群体行为模式；“买了这个商品的用户也买了……”通常是 item-item 协同过滤。
- 基于内容推荐：根据物品属性和用户兴趣画像匹配，例如用户喜欢某种车型参数、文章主题或商品品牌，就推荐相似内容。
协同过滤能发现隐式关联，但新用户/新物品冷启动明显；内容推荐能利用物品特征缓解冷启动，但容易陷入相似内容过滤泡沫。实际系统常用混合推荐、召回—排序两阶段架构。
Q8. 推荐系统冷启动怎样处理？
答案：
- 新用户：引导选择兴趣、使用热门/上下文推荐、利用会话行为和少量探索。
- 新物品：利用标题、图片、类别、品牌等内容特征生成初始向量；通过内容召回或相似物品迁移初始曝光。
- 新市场/新场景：结合规则先验、分层统计和小流量实验逐步积累数据。
冷启动不能仅靠“推荐热门”解决；要评估探索带来的短期成本、长期价值和公平曝光。
Q9. 图像分类、目标检测和语义分割的输出有什么区别？
答案：
- 分类：给整张图一个或多个类别标签。
- 目标检测：输出每个目标的类别、边界框和置信度。
- 语义分割：为每个像素分配类别；实例分割还要区分同类的不同实例。
“哪一个最难”没有统一答案：检测需要定位多个目标，语义分割需要密集像素标注；难度取决于数据、类别、尺度、遮挡和实时约束。
Q10. YOLO 为什么叫 One-Stage？与 R-CNN 两阶段方法有什么区别？
答案： YOLO 将目标检测作为单阶段密集预测任务，在一次网络前向过程中同时预测边界框、类别和置信度，因此称 You Only Look Once。两阶段方法（如 Faster R-CNN）通常先生成候选区域，再对候选区域分类和精修边界框。
YOLO 通常具有较好的速度/精度折中，但并非所有场景都优于两阶段方法。检测网络也不只是“纯回归”：通常同时优化分类、目标置信度和框回归等损失。
四、图神经网络与自监督学习
Q11. GNN 解决什么问题？什么是 Message Passing？
答案： 图神经网络用于节点、边或整张图的表示学习，例如社交网络、分子结构、知识图谱和交通路网。节点通过聚合邻居信息更新表示，这个过程称为 Message Passing。
一层通常汇总一跳邻居，堆叠两层后节点表示可包含两跳邻居信息。层数太多可能出现 oversmoothing（节点表示趋同）或 oversquashing（大量远端信息被压缩进固定维度向量），因此不是层数越多越好。
Q12. 自监督学习和有监督学习有什么区别？BERT 的 Masked LM 属于什么？
答案： 有监督学习使用人工或外部提供的目标标签；自监督学习从数据本身构造训练目标，例如遮住一部分 token 让模型预测、预测下一 token 或判断两个视图是否匹配。
BERT 的 Masked Language Modeling 是自监督预训练任务：标签来自原始文本中被遮住的 token，而非人工逐条标注。自监督仍需要训练数据和目标设计，不等于“完全没有监督信号”。
Q13. 对比学习为什么要拉近正样本、推远负样本？
答案： 对比学习通过构造正样本对（同一对象的不同增强视图或匹配的图文对）和负样本对，学习让语义匹配的表示更接近、非匹配的表示更远。
相较直接分类，它可利用大量无人工标签数据学习通用表示；但负样本可能包含假负例，温度、批量大小、增强策略和数据分布都会影响训练。下游任务仍需验证表示是否有用。
五、模型部署与量化
Q14. 为什么把 PyTorch 模型导出为 ONNX 或 TensorRT？直接用 .pt 不行吗？
答案： PyTorch 可以直接部署推理；导出 ONNX 或使用 TensorRT 的主要目的通常是跨框架交换、图优化、算子融合、内存规划和利用目标硬件加速。
- ONNX：开放的模型交换格式，便于不同运行时加载；并不保证每个算子都支持或自动更快。
- TensorRT：NVIDIA 推理优化运行时，可做图优化、精度校准和 GPU 内核选择。
- 端侧设备也可能使用 TFLite、Core ML、ONNX Runtime、厂商 NPU SDK 等。
导出后必须做数值一致性、动态形状、算子覆盖、精度、延迟、峰值内存和异常输入测试。
Q15. FP32 量化到 INT8 为什么模型变小？精度为什么可能下降？
答案： FP32 每个权重通常占 32 bit，INT8 只占 8 bit，因此权重存储理论上约降为四分之一；激活和中间张量也可量化，减少内存带宽并在支持 INT8 的硬件上加速。
量化会引入舍入和截断误差，精度是否明显下降取决于模型、数据分布、量化粒度和硬件算子。常见方式：
- PTQ：训练后量化，使用校准数据估计量化范围。
- QAT：训练时模拟量化误差，让模型适应量化。
速度提升不是自动的：若目标硬件没有高效 INT8 内核，或存在频繁反量化/算子回退，实际可能不快。
六、AI 公平性与语音
Q16. 人脸识别对不同群体准确率不同，偏差可能来自哪里？
答案： 偏差可能来自训练数据代表性不足、标签噪声、采集设备差异、照明/姿态分布、算法目标函数、阈值选择和部署环境。不能简单归结为“模型有偏见”或“数据不均衡”其中之一。
应按群体分层评估 FMR/FNMR、误报/漏报、置信区间和不同采集条件；审查数据授权与代表性，做外部验证和持续监测。对高风险场景应设置人工复核、申诉和停止使用条件。
Q17. 不把性别作为贷款模型输入，是否就能消除偏差？
答案： 不能。邮编、职业、收入轨迹、消费模式等特征可能成为敏感属性的代理变量；历史标签本身也可能反映过去的不公平决策。删除敏感字段并不能自动消除代理偏差。
需要审查数据生成机制、标签定义和特征代理；按受保护群体评估错误率与通过率；结合公平性约束、反事实分析、人工治理和法律要求。不同公平性指标之间可能冲突，必须明确业务和法规目标。
Q18. ASR 为什么常把波形转成 Mel 频谱？能否直接用波形？
答案： 语音波形是随时间变化的压力信号。短时傅里叶变换把它转成时频表示；Mel 滤波器组按近似人耳频率感知尺度汇总能量，得到 Mel 频谱，便于模型学习语音的时频结构。
Mel 频谱不是唯一方式：现代端到端模型也可直接处理波形或学习前端特征。不同前端在延迟、信息损失、鲁棒性和计算成本上有取舍。
Q19. TTS 怎样让合成语音更自然？Tacotron 和 VITS 有什么不同？
答案： 传统 TTS 流程可分为文本/音素处理、声学模型生成频谱、声码器把频谱还原为波形。Tacotron 系列常采用序列到序列声学模型预测 Mel 频谱，再由声码器生成声音。
VITS 将变分建模、对抗训练和流式/单阶段生成思想结合，端到端学习文本到语音的映射。自然度还受韵律、停顿、重音、说话人建模、训练语料和推理速度影响；频谱到波形并不是简单“反变换”，而是由声码器学习生成。
七、状态空间模型与AI安全
Q20. Mamba/状态空间模型与 Self-Attention 有什么区别？为什么常说 Mamba 是 O(n)？
答案： 标准全局 Self-Attention 通常需要构造 token 两两交互，序列长度 n 时计算/内存开销常呈 O(n²)。Mamba 属于选择性状态空间模型（Selective SSM），通过输入相关的状态更新和扫描算法递归传递信息，目标是在序列长度上实现近似线性 O(n) 的计算和内存扩展。
但 O(n) 不意味着任何硬件、长度和任务上都比 Transformer 快；常数开销、并行扫描、状态维度、内核实现和质量差异都重要。应在目标长度与硬件上比较吞吐、延迟、内存和任务质量。
Q21. AGI 对齐问题是什么？可扩展监督与可解释性在做什么？
答案： 对齐问题关注如何让高能力 AI 系统的目标、行为和边界符合人类意图与社会约束，并在复杂、未预见场景下保持可靠。
- 可扩展监督：研究如何用有限人类监督管理远超人工逐条检查能力的模型，例如分解任务、辅助评审、过程监督和弱到强泛化。
- 可解释性：研究如何理解模型内部表示、特征和计算机制，帮助发现欺骗性行为、异常策略和能力边界。
这两条路线都不能单独保证安全；还需结合能力评估、红队测试、访问控制、监控、事故响应和逐步部署。