概率论与数理统计（面试向）

随机变量是定义在样本空间上的实值函数，它把每个随机试验结果映射为一个数值。随机性来自试验结果的不确定性，而不是说变量的取值“毫无规律”；随机变量的取值规律通常可以由概率分布描述。

联合概率描述多个事件或多个随机变量取值同时发生的概率。例如，离散随机变量的联合概率可以写为。

边缘概率只关注其中一个随机变量，可以从联合分布中消去其他变量。离散情形下有

连续情形下则对联合概率密度积分：

若，则在事件已经发生的条件下，事件发生的概率称为条件概率：

贝叶斯公式用于在获得新证据后更新事件发生的概率：

若事件构成样本空间的完备划分，则

例如，令事件表示患病，事件表示检测结果为阳性。是检测前的患病概率，是检测灵敏度，而才是检测呈阳性后真正患病的概率。贝叶斯公式还可用于机器学习、风险预测和故障诊断等领域。

先验概率是在观察当前证据之前，对某个事件或参数的概率认识。

后验概率是在观察到新证据之后，根据贝叶斯公式更新得到的概率。

若事件两两互斥、并集为整个样本空间，且，那么对任意事件有

它表示事件可能由多条互斥路径导致，可以分别计算每条路径的概率，再将它们相加。

泊松分布通常用于描述在固定时间或空间区间内，某类事件发生的次数。其常见前提是：事件近似独立发生、平均发生速率稳定，并且在足够短的区间内同时发生多个事件的概率可以忽略。

例如，若服务器平均每分钟收到10个相互独立的请求，且到达速率近似稳定，则一分钟内收到的请求数可以建模为。其概率质量函数为

数学期望是随机变量所有可能取值按照概率进行的加权平均，表示大量重复试验中的长期平均水平。离散和连续情形分别为

方差表示随机变量围绕期望的波动程度：

协方差衡量两个随机变量线性同向或反向变化的趋势：

协方差大于0表示两者倾向于同向变化，小于0表示倾向于反向变化。协方差等于0只表示二者不相关，即没有线性相关性，通常不能推出相互独立。

当且时，相关系数定义为

其取值范围为，用于衡量线性关系的方向与强弱。

互斥描述事件之间不能同时发生，即。如果两个事件的概率都大于0，那么互斥事件不可能独立。

独立表示一个事件的发生不改变另一个事件的概率，即。

不相关通常描述随机变量之间没有线性相关性，即。独立且二阶矩存在通常可以推出不相关，但不相关一般不能推出独立。

以弱大数定律为例，若独立同分布，且具有有限期望，则样本均值依概率收敛到总体期望：

它说明大量重复试验的平均结果具有稳定性，为使用样本均值估计总体均值提供了理论依据。

经典中心极限定理指出：若独立同分布，期望为、方差为，则

因此当样本量足够大时，可以近似认为

大数定律说明样本均值会趋近总体期望，回答“平均值是否稳定”；中心极限定理描述样本均值经过标准化后的极限分布，回答“平均值的随机波动近似服从什么分布”。