考研数学1000问：常见分布、参数估计与假设检验
一、常见分布
Q1. 均匀分布为什么常被称为“无信息”分布？最大熵有什么条件？
答案： 在有限区间 [a,b] 上，连续均匀分布的密度为 1/(b-a)，区间内各位置密度相同。在“只知道变量范围、没有其他约束”的特定条件下，它具有最大微分熵，因此常被作为无偏好的基准模型。
但“均匀分布总是最大熵”不成立：最大熵分布取决于已知约束。例如只知道实数变量的均值和方差时，最大熵分布是正态分布；只知道非负变量均值时，最大熵分布与指数分布有关。
Q2. 正态分布的 μ 和 σ 分别控制什么？如何标准化？
答案： 正态分布 N(μ,σ²) 中，μ 控制中心位置，σ 控制离散程度。标准化：
Z = (X - mu) / sigma若 X 正态分布，则 Z 服从标准正态 N(0,1)。标准化让不同量纲的正态变量可用同一张标准正态表计算概率。
正态近似不是万能：要检查分布形状、样本量、尾部风险和异常值。
Q3. t 分布为什么比正态分布尾巴更厚？小样本为什么常用 t？
答案： 当总体方差未知、用样本标准差 S 估计时，标准化样本均值会引入额外的不确定性，得到 t 分布。t 分布尾部比标准正态更厚，反映小样本估计方差带来的额外波动。
自由度越大，t 分布越接近标准正态。小样本下若总体近似正态且独立性等条件满足，使用 t 分布比直接使用 z 分布更合适；若数据严重偏态或有强离群值，简单 t 检验的条件可能不满足。
Q4. χ²、t、F 三大抽样分布分别用于什么？
答案：
- χ² 分布：独立标准正态变量平方和；常用于正态总体方差推断、拟合优度和列联表独立性检验。
- t 分布：正态总体均值在总体方差未知时的标准化统计量；常用于均值置信区间和 t 检验。
- F 分布：两个独立卡方变量按自由度标准化后的比值；常用于方差比检验和方差分析（ANOVA）。
使用前必须确认统计量的分布条件、独立性、自由度和样本设计，不能只凭“题目有方差”就选 χ² 或 F。
二、参数估计
Q5. 矩估计为什么简单？它的缺点是什么？
答案： 矩估计把总体矩（如 E[X]、E[X²]）与样本矩对应，建立方程求未知参数。它计算直观、容易实现，但不一定有效率高，也可能产生不在参数空间内的估计值。
例如 Poisson(λ) 的理论均值为 λ，样本均值就是 λ 的矩估计。是否优于其他估计方法要看模型和样本条件。
Q6. 极大似然估计为什么常用？它在最大化什么？
答案： 极大似然估计（MLE）选择使已观测样本出现概率（或密度）最大的参数：
theta_hat = argmax_theta L(theta; data)通常最大化对数似然以便把乘积转为求和并改善数值稳定性。MLE 具有良好的渐近性质（在正则条件下常具有一致性、渐近正态性和渐近有效性），但小样本可能有偏，且结果依赖模型设定是否正确。
Q7. 无偏性、有效性、一致性分别是什么意思？哪个最重要？
答案：
- 无偏：估计量期望等于真实参数。
- 一致：样本量趋于无穷时，估计量依概率收敛到真实参数。
- 有效：在特定比较类和条件下方差更小，或达到某种信息下界。
没有脱离场景的“最重要”。有限样本预测可能更关心均方误差；长期估计可能重视一致性；有偏但方差低的估计量有时总体误差更小。还需考虑稳健性、计算成本和模型失配。
Q8. 95% 置信区间到底是什么意思？为什么不能说参数有 95% 概率在区间内？
答案： 频率学派的 95% 置信区间指：若按同一抽样和构造方法无限次重复实验，约 95% 的区间会覆盖固定的真实参数。
在已经观察到数据并得到一个具体区间后，频率学派不把固定参数看作随机变量，因此不说“真实参数有 95% 概率落在这个已算出的区间”。贝叶斯可信区间则在给定先验和数据后，对参数后验分布作概率陈述，解释不同。
三、假设检验
Q9. 原假设和备择假设怎么设？为什么常把原假设设为“无差异”？
答案： 原假设 H0 是检验时作为基准的声明，备择假设 H1 表示与 H0 相对立的研究方向。常见设置为 H0: 参数等于基准值，H1: 参数不等于/大于/小于基准值。
把“无差异”设为 H0 是常见设计，但不是硬性规则。应根据研究问题、数据生成机制和决策风险事先设定，不能看到数据后再挑选假设方向。
Q10. 第一类错误 α 和第二类错误 β 分别是什么？为什么常控制 α？
答案：
- 第一类错误：H0 真实却拒绝 H0，概率记为 α。
- 第二类错误：H0 不真实却未拒绝 H0，概率记为 β。
- 检验功效（power）=1−β，表示在某个备择情形下正确拒绝 H0 的概率。
通常预先控制 α，是为了限制误报风险；β 还取决于真实效应大小、样本量和噪声。提高样本量常能在固定 α 下提高功效，但成本更高。不能把“未拒绝 H0”解释为“证明 H0 正确”。
Q11. p 值到底是什么意思？p<0.05 是否证明备择假设？
答案： p 值是在 H0 及模型假设成立时，观察到当前统计量或更极端结果的概率。它不是 H0 为真的概率，也不是结果由偶然造成的概率。
p<0.05 表示在预先设定的检验规则下，数据与 H0 的不相容程度达到该阈值；它不能单独证明 H1，也不说明效应大小、实际重要性或可重复性。还要报告效应量、置信区间、样本量和多重比较处理。
Q12. 单侧和双侧检验什么时候用？为什么不能看完数据再选？
答案： 若研究问题事先只关心某一方向（例如改进是否至少提高性能），且反方向结果不构成研究目标，可预先设单侧检验；若任一方向偏离基准都重要，则用双侧检验。
不能看完样本均值后再决定单侧方向，否则会提高第一类错误率。检验方向必须在分析前由科学问题或决策规则确定。
Q13. 两个正态总体均值差为什么常用 t 检验？
答案： 当总体方差未知时，需要用样本方差估计，标准化均值差后常得到 t 统计量。两独立样本可用等方差 Student t 检验（需方差相等假设），或 Welch t 检验（不要求两总体方差相等，通常更稳健）。
配对数据应分析每对观测的差值，使用配对 t 检验；不能把配对样本误当成独立样本。还需检查独立性、异常值、样本设计和分布条件。
四、统计学习与随机模拟
Q14. 朴素贝叶斯为什么叫“朴素”？条件独立假设不成立为什么还常有效？
答案： 朴素贝叶斯假设在给定类别 Y 后，各特征 Xi 条件独立：
P(X1,...,Xn|Y) = Π_i P(Xi|Y)现实特征往往并不独立，因此假设“朴素”。但分类决策只需比较类别后验的相对大小；即使概率估计不完美，模型仍可能得到有效排序。它训练快、对小样本友好，常用于文本分类等场景；若需要准确概率，应检查校准和特征依赖。
Q15. 蒙特卡洛方法为什么能“用概率解决确定性问题”？
答案： 蒙特卡洛方法通过随机采样估计积分、期望或复杂系统输出。若目标为 E[f(X)]，可用独立样本平均：
E[f(X)] ≈ (1/N) Σ_i f(X_i)样本量增大时，在适当条件下样本平均收敛到真实期望。它把难以解析求解的高维积分转化为采样和平均；误差通常随 1/√N 量级下降，因此要通过方差缩减、重要性采样、分层采样等方法提高效率。
Q16. 贝叶斯统计与频率学派有什么区别？机器学习只用贝叶斯吗？
答案：
- 频率学派把参数视为固定未知量，概率描述重复抽样的长期频率；常见方法包括 MLE、置信区间和假设检验。
- 贝叶斯学派把参数不确定性用先验分布表达，结合数据似然得到后验分布；可自然整合领域先验并进行概率更新。
机器学习两派方法都很常见：线性回归、SVM、神经网络优化常采用频率/经验风险最小化框架；朴素贝叶斯、贝叶斯回归、贝叶斯优化和概率编程采用贝叶斯思想。不是“机器学习更常用贝叶斯”这一句能概括的。