KDT不等式的含义：设随机变量X X的期望为#x03BC； ' role='presentation'，方差为2 2。 对于任意正数，p {|x|}22p {|x|}22k DDT不等式表明，x方差越小，事件{|x|即，X X的取值基本上等于期望#x03BC；' 集中在的role='presentation'附近。 也就是说，方差越小，数据的振动越小，数据分布越集中。 KDT不等式的证明数定理的含义：假设随机变量X1，X2，Xn X 1，X2，X n相互独立，且具有相同的期望和方差2 2。 前n个随机变量的平均yn=1nNi=1xiyn=1nI=1nI，对于任意正数，有limnP|Yn|=1 lim n P | Y n | = 1 意义：当n很大时，随机变量 X1,X2,...,Xn X 1 , X 2 , . . . , X n 的平均值 Yn Y n 在概率意义下无限接近期望 μ μ
ssdlq有可能出现偏离，但是这种可能性很小，当n无限大时，这种可能性的概率为0 伯努利大数定理 含义：一次试验中事件 A A 发生的概率为p" role="presentation">pp；重复 n n 次独立实验中，事件A发生了nA" role="presentation">nAnA次，则 p、n、nA p 、 n 、 n A 的关系满足：对于任意正数 ε ε limn→∞P(|nAn−p|<ε)=1 lim n → ∞ P ( | n A n − p | < ε ) = 1 意义：该定理表明事件A发生的频率 nAn n A n 以概率收敛于事件A的概率p。用途：
正态分布的参数估计朴素贝叶斯做垃圾邮件分类隐马尔科夫模型有监督参数学习 中心极限定理 含义：设随机变量 X1,X2,...,Xn X 1 , X 2 , . . . , X n 互相独立，服从同一分布，并且具有相同的期望 μ μ 和方差 σ2 σ 2 ，则随机变量 Yn=∑ni=1Xi−nμn‾√σ Y n = ∑ i = 1 n X i − n μ n σ 的分布收敛到标准正态分布
容易得到： ∑ni=1Xi ∑ i = 1 n X i 收敛到正态分布 N(nμ,nσ2) N ( n μ , n σ 2 ) 意义：实际问题中，很多随机现象可以看做许多因素的独立影响的综合反应，往往近似服从正态分布。如：
城市耗电量：大量用户的耗电量总和测量误差：许多观察不到的、微小误差的总和
注意，是多个随机变量的和才可以，有些问题是乘性误差，则需要鉴别或者取对数后再使用线性回归中，将使用该定理论证最小二乘法的合理性