原文地址1：https://www.face2ai.com/Math-Probability-5-2-the-Bernoulli-and-Binomial-Distributions轉載請標明出處

Abstract: 本文介紹Bernoulli Distribution （伯努利分布）和Binomial Distribution（二項分布）
Keywords: Bernoulli Distributions，Binomial Distributions

伯努利和二項分布

吐血更，一天三篇，雖然上一篇只能算一段，但是確實應該加快總結的步伐了，給后面的新內容騰出足夠的時間

一杯敬自由，一杯敬死亡

在本章的開始，我們從離散分布下手，看看每個分布有這什么樣的特點，然后用我們的工具分析研究其內在的性質，當然要從最簡單的開始，逐步構建出我們要研究的有代表性的這些分布，第一個被處理的就是伯努利分布（bernoulli Distribution）
隨機變量 $X$ 只有兩個取值，0或者1，并且取1的概率固定是$p$ 那么我們就說 $X$ 有一個參數為 $p$ 的伯努利分布。如果我們只知道試驗輸出對應的隨機變量只有兩個結果，非此即彼，那么這個隨機變量的分布就是伯努利族中的一個隨機變量。
如果隨機變量 $X_1,X_2,\dots ,X_n$ 有相同的伯努利分布，他們的和就是其中為1的隨機變量的個數，這個個數也是隨機的，其對應的分布為二項分布。

伯努利分布 The Bernoulli Distributions

上來先來個例子：

---

臨床試驗，對于某種治療，我們簡單的把結果劃分成兩種，一種有效，一種無效，我們用隨機變量來表示這兩個結果，$X=1$ 表示治療有效 $X=0$ 表示治療無效，那么我們要做的是得到這個概率就是 $Pr(X=1)=p$ 的值就是我們關心的結果。$p$ 的取值范圍在 $[0,1]$ 對應于不同的 $p$ 我們就有了伯努利分布族。

---

Definition Bernoulli Distribution.A random variable X has the Bernoulli distribution with parameter $p$ ( $0\le p\le 1$ )if X can take only the values 0 and 1 and the probabilities are
$$Pr(X=1)=p$$
and
$$Pr(X=0)=1?p$$

其概率函數可以被寫成：
$$f(x|p)=\{\begin{array}{ll}{p}^x(1?p{)}^{1?x}& \text{?for?}x=0,1\\ 0& \text{otherwise}\end{array}$$
p.f.的表示方法可以看出伯努利分布是依賴于參數 $p$ 的，所以 $p$ 可以看成一個條件，那么我們后面所有類似的分布都可以將其p.f.或者p.d.f.寫成這種形式。
c.d.f.（似乎我們學c.d.f的時候已經講過了）可以被寫成：
$$F(x|p)=?\begin{array}{ll}0& \text{?for?}x<0\\ 1?p& \text{?for?}0<x<1\\ 1& \text{?for?}x\ge 1\end{array}$$

期望 Expectation

當我們研究完其p.f.和c.d.f.以后就研究研究他的期望吧，也沒啥可研究的了，隨機變量 $X$ 有參數為 $p$ 的伯努利分布，那么其期望：
$$E(X)=p\times 1+0\times (1?p)=p$$
然后我們研究一下隨機變量 $X^2$ 的概率分布
$$E(X^2)=p\times 1^2+(1?p)\times 0^2=p$$

方差 Variance

期望完了當然是方差了，同樣是隨機變量 $X$ 有參數為 $p$ 的伯努利分布，那么其方差：
$$Var(X)=E[(X?E(X){)}^2]=(1?p{)}^{2}p+(?p{)}^2(1?p)=p(1?p)(1?p+p)=p(1?p)$$
或者通過更簡單的公式：
$$Var(X)=E[X^2]?E^2[X]=p?p^2=p(1?p)$$
結果一致。

距生成函數 m.g.f.

我們說過除了p.d.f./p.f.和c.d.f.，m.g.f.也是非常重要的分布標書工具，所以伯努利分布自然也有m.g.f.
$$\begin{array}{rl}\psi (t)=E[e^{tX}]=p(e^{t\times 1})+(1?p)(e^{t\times 0})& \text{?for?}?\infty <t<\infty \end{array}$$
這個寫起來應該沒啥難度，注意好 $X$ 就行，然后就是期望對應的概率值。

伯努利過程 Bernoulli Trials/Process

說到序列我就想起了數學分析，Tao的分析我們已經開始更新了，但是我想把概率基礎部分先寫完，然后一邊研究數理統計一邊寫分析的博客，想到分析的原因是我看到了序列
如果一個序列不論是否有限，每一個元素都是獨立同分布的（i.i.d.）的伯努利隨機變量，那么我們就叫他們伯努利序列或者伯努利過程。

Definition Bernoulli Trails/Process.If the random variables in a finite or infinite sequence $X_1,X_2,\dots$ and i.i.d.,and if each random variable $X_i$ has the Bernoulli distribution with parameter p,then it is said that $X_1,X_2,\dots$ are Bernoulli trials with parameter $p$ .An infinite sequence of Bernoulli trials is also called a Bernoulli Process.

伯努利過程的例子最簡單的就是連續丟同一枚硬幣，組成的結果正反，就組成了伯努利過程。

二項分布 The Binomial Distributions

舉個例子，這個例子和上面伯努利過程有關，連續生產一批零件，每個零件有一定的合格率，，所有零件組成的序列是一個伯努利過程，那么么我們想知道這些隨機變量的和滿足怎么樣的分布。

Definition Binomial Distribution.A random variable $X$ has the binomial distribution with parameters $n$ and $p$ if $X$ has a discrete distribution for which the p.f. is as follow:
$$f(x|n,p)=?\begin{array}{ll}\left(\begin{array}{c}n\\ x\end{array}\right)p^x(1?p{)}^{n?x}& \text{?for?}x=0,1,\dots \\ 0& \text{otherwise}\end{array}$$
in this distribution ,$n$ must be a positive integer, and $p$ must lie in the interval $0\le p\le 1$

這個定義確實是以定義的語言風格來寫的，直接明了的告訴你，什么東西，叫什么名字，來源出處并不是定義要闡述的，但是我們要從理論上分析為啥這就是二項分布了呢？二項分布首先是因為這個分布產生系數和二項式系數一致，而且中有兩個項，而其來源是多個獨立同分布的伯努利分布隨機變量求和結果。

注意：二項分布是概率論和數理統計的重要基礎！

Theorem If the random varibales $X_1,\dots ,X_n$ from $n$ Bernoulli trials with parameter $p$ ,and if $X=X_1+?+X_n$ ,then $X$ has the binomial distribution with parameters $n$ and $p$

這個定理的證明用到的是前面計數方法以及乘法法則，加法法則，也就是 $n$ 個樣本中每一個都有 $p$ 的概率是1，其余是0，總和是 $x$ 的組合方法共有 $\left(\begin{array}{c}n\\ x\end{array}\right)$ 種，所以把這些種概率 $p^x(1?p{)}^{n?x}$ 相加就得到了結果，被定義為二項分布。

根據上面這條定理，我們可以很輕松的計算二項分布的數字特征了。終于知道學習那些數字特征的計算法則的用途了，下面將會非常簡單。

期望 Expectation

隨機變量 $X$ 是一個參數為 $n$ 和 $p$ 的二項分布，那么其期望是：
$$E(X)=\sum _{i=0}^{n}E(X_i)=np$$
用到的法則：

獨立的隨機變量的和的期望，等于期望的和

方差 Variance

隨機變量 $X$ 是一個參數為 $n$ 和 $p$ 的二項分布，那么其方差是：
$$Var(X)=\sum _{i=1}^n=np(1?p)$$
用到的法則：

獨立的隨機變量的和的方差，等于方差的和

如果使用別的方法求方差會非常麻煩，比如定義或者 $Var(X)=E[X^2]?E^2[X]$ 別問我怎么知道的。

距生成函數 m.g.f.

隨機變量 $X$ 是一個參數為 $n$ 和 $p$ 的二項分布，那么其距生成函數是：
$$\psi (t)=E(e^{tX})={\Pi }_{i=1}^{n}E(e^{t{X}_i})=(p{e}^t+1?p{)}^n$$
用到的法則：

獨立的隨機變量的和的m.g.f.，等于m.g.f.的累積

二項分布隨機變量相加

Theorem If $X_1,\dots ,X_n$ are independent random varibales,and if $X_i$ has the binomial distribution with parameters $n_i$ and $p$ ( $i=1,\dots ,k$ ) ,then the sum $X_1+?+X_k$ has the binomial distribution with parameters $n=n_1+?+n_k$ and $p$ .

當多個二項分布有不同的 $n$ 但是有相同的 $p$ 那么他們可以相加，$n$ 是所有 $n$ 的和， $p$ 不變，這個可以根據將二項分布打散成伯努利分布然后再加起來可以看出來定理是正確的

那么什么時候可以使用上述定理呢？

所有隨機變量相互獨立

參數 $p$ 必須相同

這兩點有任何一點不成立，上面的定理都不成立。
書上接著給了個大長例子，講的是血液檢驗，還有到了二分查找法，可以看看

總結

本文介紹伯努利分布和二項分布，分析了其對應數字特征，和m.g.f下一篇我們繼續研究分布——超幾何分布。
待續。。。

總結

以上是生活随笔為你收集整理的【概率论】5-2:伯努利和二项分布(The Bernoulli and Binomial Distributions)的全部內容，希望文章能夠幫你解決所遇到的問題。

如果覺得生活随笔網站內容還不錯，歡迎將生活随笔推薦給好友。