• probabilistic & estimation：常用分布，共軛特性，最大似然估計，最大后驗估計，指數(shù)族和自然參數(shù)
• statistic properties：輔助機器學(xué)習(xí)算法證明，包括重要的切比雪夫不等式和馬爾科夫不等式

2. 統(tǒng)計特性 statistic properties

• 換元后的概率分布函數(shù)以及概率密度函數(shù)

• 對于向下取整的一些思考

?因此，P(Z<z)相對P(Y=floor(x))是獨立的，因為P(Z<z)中并不包含x項。

2.1 馬爾科夫不等式 Markovs inequality

在概率論中，馬爾可夫不等式給出了隨機變量的函數(shù)大于等于某正數(shù)的概率的上界。

markovs 不等式將概率與期望關(guān)聯(lián)在一起，并為隨機變量的累計密度分布提供了一個上確界。

2.2 切比雪夫不等式 Chebyshevs inequality

19世紀俄國數(shù)學(xué)家切比雪夫研究統(tǒng)計規(guī)律中，論證并用標準差表達了一個不等式。通俗的意義就是： 任意一個數(shù)據(jù)集中，位于其平均數(shù)m個標準差范圍內(nèi)的比例總是至少為1－1/m^2，其中m為大于1的任意正數(shù)。例如：

• m=2 -> 所有數(shù)據(jù)中，至少有3/4（或75%）的數(shù)據(jù)位于平均數(shù)2個標準差范圍內(nèi)。
• m=3 -> 所有數(shù)據(jù)中，至少有8/9（或88.9%）的數(shù)據(jù)位于平均數(shù)3個標準差范圍內(nèi)。
• m=5 -> 所有數(shù)據(jù)中，至少有24/25（或96%)的數(shù)據(jù)位于平均數(shù)5個標準差范圍內(nèi) ?。

證明如下：

• 應(yīng)用案例1：對于任何分布。如果他們的均值和方差已知，chebyshev不等式可以為隨機變量的概率分布提供一個:確界。

• 應(yīng)用案例2：對于隨機變量X, Xn是概率收斂的

• 應(yīng)用案例3：大數(shù)定律 law of large number

2.3?柯西—施瓦茨不等式 Cauchy-Schwarz inequality

柯西-施瓦茨不等式是一個在眾多背景下都有應(yīng)用的不等式，例如線性代數(shù)，數(shù)學(xué)分析，概率論，向量代數(shù)以及其他許多領(lǐng)域。它被認為是數(shù)學(xué)中最重要的不等式之一。此不等式最初于1821年被柯西提出，其積分形式在1859被布尼亞克夫斯基提出，而積分形式的現(xiàn)代證明則由施瓦茲于1888年給出。

柯西—施瓦茨不等式的一個重要結(jié)果是內(nèi)積為連續(xù)函數(shù)。

柯西—施瓦茨不等式有另一形式，可以用范的寫法表示：

對歐幾里得空間，有

對平方可積的復(fù)值函數(shù)，有

總結(jié)

以上是生活随笔為你收集整理的统计特性和概率估计-2 (数学推导与证明)的全部內(nèi)容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網(wǎng)站內(nèi)容還不錯，歡迎將生活随笔推薦給好友。