Bỏ qua

Chương 44: Biến ngẫu nhiên, kỳ vọng và phương sai

Câu hỏi mở đầu

Đến giờ ta hỏi một điều có xảy ra hay không. Nhưng thường ta quan tâm đến một con số chưa biết: sẽ lãi bao nhiêu, mất bao lâu, có bao nhiêu khách. Làm sao mô tả và tóm tắt một con số bất định?

Một con số phụ thuộc vào thế giới

Tung hai đồng xu và đếm số mặt ngửa. Trước khi tung, con số ấy chưa biết: có thể là 0, 1 hoặc 2. Nhưng nếu biết thế giới nào xảy ra thì con số hoàn toàn xác định: thế giới NN (ngửa, ngửa) cho 2, hai thế giới NS và SN cho 1, thế giới SS cho 0. Quy tắc "đếm số mặt ngửa" không có gì ngẫu nhiên; cái chưa biết chỉ là ta đang ở thế giới nào.

Đó là cấu trúc nguyên thủy của chương: một con số bất định là một quy tắc gán cho mỗi thế giới khả dĩ một số, tức một hàm theo nghĩa của Chương 20, với miền xác định là tập các thế giới \(\Omega\) của Chương 41. Tổng hai xúc xắc, số tiền thắng thua sau một ván, số khách vào quán hôm nay, số tuần phải chờ tới lần trúng xổ số: mỗi thứ là một hàm như thế. Toán học gọi nó là biến ngẫu nhiên (random variable), một cái tên gây hiểu lầm hai lần: nó không ngẫu nhiên, vì là một quy tắc cố định, và cũng không phải một biến, vì là một hàm. Sự ngẫu nhiên nằm ở chỗ khác, ở việc thế giới nào sẽ xảy ra.

Biến ngẫu nhiên như các mũi tên từ thế giới tới số
Biến ngẫu nhiên \(X\), số mặt ngửa khi tung hai đồng xu, gán cho mỗi thế giới một số. Hai thế giới NS và SN cùng cho giá trị 1, nên \(P(X = 1) = \frac14 + \frac14 = \frac12\).

Vì sao cấu trúc này phải xuất hiện, dù chưa ai đặt tên cho nó? Vì mọi câu hỏi về một con số bất định đều quy về câu hỏi về các thế giới. "Số mặt ngửa bằng 1" là biến cố \(\{\text{NS}, \text{SN}\}\), xác suất \(\frac12\). Liệt kê mọi giá trị cùng xác suất của chúng, 0 với xác suất \(\frac14\), 1 với xác suất \(\frac12\), 2 với xác suất \(\frac14\), ta được phân phối (distribution) của biến ngẫu nhiên. Phân phối mô tả đầy đủ con số bất định, nhưng thường quá dài để dùng: muốn so hai trò chơi, hai khoản đầu tư, hai chính sách, ta cần nén nó lại thành một hai con số. Con số thứ nhất trả lời "ở đâu"; con số thứ hai trả lời "lệch khỏi đó bao xa".

Con số thứ nhất: nhân mỗi giá trị với xác suất của nó rồi cộng lại, \(0 \cdot \frac14 + 1 \cdot \frac12 + 2 \cdot \frac14 = 1\). Nó gọi là kỳ vọng (expected value) của biến ngẫu nhiên. Đây là một trung bình có trọng số (weighted average): mỗi giá trị góp phần theo xác suất của nó, như điểm tổng kết một môn học khi các bài kiểm tra có hệ số khác nhau. Nó còn là một khái niệm vật lý quen thuộc: đặt lên một thanh cứng những khối nặng tỉ lệ với các xác suất, ở những vị trí bằng các giá trị, thì thanh cân bằng đúng tại kỳ vọng. Kỳ vọng là trọng tâm (center of mass) của phân phối.

Các khối xếp trên thanh cân, điểm tựa đặt tại kỳ vọng
Kỳ vọng là điểm cân bằng. Trái: xúc xắc cân đối, mỗi mặt một khối, thanh cân bằng tại \(3{,}5\). Phải: giá trị 1, 2, 3, 4 với xác suất \(0{,}4\); \(0{,}3\); \(0{,}2\); \(0{,}1\), thanh cân bằng tại \(2\), không phải tại giá trị hay gặp nhất cũng không phải ở chính giữa.

Ký hiệu

Biến ngẫu nhiên thường được viết bằng chữ in hoa, \(X\), \(Y\), \(T\); giá trị của \(X\) tại thế giới \(\omega\)\(X(\omega)\). Biến cố "\(X\) nhận giá trị \(x\)" là tập \(\{\omega \in \Omega : X(\omega) = x\}\), viết gọn là \(\{X = x\}\), và xác suất của nó là \(P(X = x)\); tương tự với \(\{X \leq x\}\) hay \(\{X > 3\}\).

Kỳ vọng của \(X\), ký hiệu \(E[X]\) hoặc \(\mu\) (đọc là "muy"), là

\[ E[X] = \sum_{\omega \in \Omega} X(\omega)\,p(\omega) = \sum_{x} x \cdot P(X = x). \]

Tổng thứ nhất chạy trên các thế giới, tổng thứ hai chạy trên các giá trị; hai tổng bằng nhau vì tổng thứ hai chỉ gom lại các thế giới cho cùng một giá trị (Mệnh đề 2).

Độ lệch của \(X\) khỏi kỳ vọng, \(X - \mu\), cũng là một biến ngẫu nhiên, và kỳ vọng của nó bằng 0: các độ lệch dương và âm triệt tiêu nhau, đó chính là sự cân bằng. Muốn đo độ phân tán thì phải bỏ dấu. Cách thuận tiện nhất là bình phương: phương sai (variance) của \(X\) là kỳ vọng của bình phương độ lệch,

\[ \mathrm{Var}(X) = E\big[(X - \mu)^2\big]. \]

Bình phương làm đổi đơn vị (đồng thành "đồng bình phương"), nên ta lấy căn: độ lệch chuẩn (standard deviation) \(\sigma = \sqrt{\mathrm{Var}(X)}\) (đọc là "xích-ma") có cùng đơn vị với \(X\) và đo khoảng cách điển hình giữa \(X\) và kỳ vọng của nó. Cũng có thể đo độ phân tán bằng \(E\big[\lvert X - \mu \rvert\big]\), nhưng bình phương cho những công thức đẹp hơn nhiều, như phương sai của một tổng (Định lý 6).

Với mỗi biến cố \(A\), biến chỉ báo (indicator variable) \(\mathbf{1}_A\) nhận giá trị 1 ở các thế giới thuộc \(A\) và 0 ở các thế giới còn lại: nó "bật đèn" khi \(A\) xảy ra. Kỳ vọng của nó là \(1 \cdot P(A) + 0 \cdot P(\overline{A}) = P(A)\). Biến chỉ báo của một phép thử chỉ có hai kết quả, "thành công" với xác suất \(p\) và "thất bại" với xác suất \(1 - p\), được nói là có phân phối Bernoulli (Bernoulli distribution). Số lần thành công trong \(n\) phép thử độc lập như thế có phân phối nhị thức (binomial distribution):

\[ P(X = k) = \binom{n}{k} p^k (1 - p)^{n - k}, \qquad k = 0, 1, \dots, n, \]

vì mỗi dãy kết quả có đúng \(k\) lần thành công có xác suất \(p^k (1 - p)^{n - k}\), và có \(\binom nk\) dãy như thế (Chương 40).

Hai biến ngẫu nhiên \(X\), \(Y\) gọi là độc lập nếu \(P(X = x, Y = y) = P(X = x)\,P(Y = y)\) với mọi giá trị \(x\), \(y\); dấu phẩy nghĩa là "và", tức giao của hai biến cố. Nói cách khác, mọi biến cố về \(X\) độc lập với mọi biến cố về \(Y\) theo nghĩa của Chương 42.

Làm bằng tay

Ví dụ 1 (một con xúc xắc). Gọi \(X\) là mặt xuất hiện. Kỳ vọng là \(E[X] = \frac{1 + 2 + 3 + 4 + 5 + 6}{6} = \frac{21}{6} = 3{,}5\). Các độ lệch là \(-2{,}5\); \(-1{,}5\); \(-0{,}5\); \(0{,}5\); \(1{,}5\); \(2{,}5\), bình phương lên được \(6{,}25\); \(2{,}25\); \(0{,}25\); \(0{,}25\); \(2{,}25\); \(6{,}25\), tổng là \(17{,}5\). Phương sai là \(\frac{17{,}5}{6} = \frac{35}{12} \approx 2{,}92\), và độ lệch chuẩn là \(\sqrt{\frac{35}{12}} \approx 1{,}71\). Cách thứ hai dùng Định lý 5: \(E[X^2] = \frac{1 + 4 + 9 + 16 + 25 + 36}{6} = \frac{91}{6}\), nên \(\mathrm{Var}(X) = \frac{91}{6} - 3{,}5^2 = \frac{182 - 147}{12} = \frac{35}{12}\).

Ví dụ 2 (một trò chơi). Tung một con xúc xắc: ra mặt 6 thì được 10.000 đồng, ra mặt khác thì mất 3.000 đồng. Tiền thắng \(W\) bằng \(10.000\) với xác suất \(\frac16\) và bằng \(-3.000\) với xác suất \(\frac56\), nên

\[ E[W] = 10.000 \cdot \frac16 - 3.000 \cdot \frac56 = \frac{10.000 - 15.000}{6} = -\frac{2500}{3} \approx -833 \text{ đồng}. \]

Mỗi ván, người chơi "trung bình" mất khoảng 833 đồng. Chữ "trung bình" ở đây nói về các thế giới khả dĩ của một ván; Chương 45 sẽ cho thấy vì sao nó cũng là mức mất trung bình mỗi ván khi chơi rất nhiều ván. Muốn trò chơi công bằng, tức kỳ vọng bằng 0, phần thưởng \(a\) cho mặt 6 phải thỏa \(a \cdot \frac16 = 3.000 \cdot \frac56\), tức \(a = 15.000\) đồng.

Ví dụ 3 (tổng hai xúc xắc). Gọi \(X_1\), \(X_2\) là hai mặt và \(S = X_1 + X_2\). Tính \(E[S]\) từ phân phối 11 giá trị của Chương 41 là một phép tính dài. Tính tuyến tính của kỳ vọng (linearity of expectation), Định lý 3, cho ngay \(E[S] = E[X_1] + E[X_2] = 3{,}5 + 3{,}5 = 7\). Vì hai xúc xắc độc lập, Định lý 6 cho \(\mathrm{Var}(S) = \frac{35}{12} + \frac{35}{12} = \frac{35}{6}\). Kiểm lại kỳ vọng bằng phân phối: số thế giới cho tổng \(2, 3, \dots, 12\)\(1, 2, 3, 4, 5, 6, 5, 4, 3, 2, 1\), và \(\frac{2 \cdot 1 + 3 \cdot 2 + \dots + 12 \cdot 1}{36} = \frac{252}{36} = 7\). Bài B2 kiểm lại phương sai theo cách này.

Ví dụ 4 (trả mũ). \(n\) người gửi mũ ở phòng gửi đồ; lúc ra về, nhân viên trả mũ hoàn toàn ngẫu nhiên, mọi cách trả ngang nhau. Trung bình có bao nhiêu người nhận lại đúng mũ của mình? Gọi \(A_i\) là biến cố "người thứ \(i\) nhận đúng mũ" và \(X = \mathbf{1}_{A_1} + \dots + \mathbf{1}_{A_n}\) là số người nhận đúng. Mũ của người thứ \(i\) có thể về tay bất kỳ ai trong \(n\) người, như nhau, nên \(P(A_i) = \frac1n\), và theo tính tuyến tính,

\[ E[X] = P(A_1) + \dots + P(A_n) = n \cdot \frac1n = 1. \]

Với 3 người hay 1000 người, trung bình đều đúng 1 người nhận đúng mũ. Các biến chỉ báo ở đây không độc lập: nếu \(n - 1\) người đầu đã nhận đúng thì người cuối chắc chắn cũng đúng. Nhưng tính tuyến tính không cần độc lập. Kiểm với \(n = 3\): có \(3! = 6\) cách trả, số người nhận đúng lần lượt là 3, 1, 1, 1, 0, 0, trung bình \(\frac{6}{6} = 1\).

Ví dụ 5 (số khách mua hàng). Mười khách vào một cửa hàng, mỗi người mua hàng với xác suất \(0{,}3\), độc lập với nhau (giả định). Số người mua \(X\) có phân phối nhị thức với \(n = 10\), \(p = 0{,}3\). Theo Hệ quả 7, \(E[X] = 10 \cdot 0{,}3 = 3\)\(\mathrm{Var}(X) = 10 \cdot 0{,}3 \cdot 0{,}7 = 2{,}1\), nên độ lệch chuẩn khoảng \(1{,}45\). Xác suất có đúng 3 người mua là \(\binom{10}{3} \cdot 0{,}3^3 \cdot 0{,}7^7 \approx 0{,}267\): 3 là giá trị có xác suất lớn nhất, nhưng xác suất để đúng 3 người mua chỉ khoảng 27%.

Biểu đồ cột của phân phối nhị thức với n bằng 10 và p bằng 0,3
Phân phối nhị thức với \(n = 10\), \(p = 0{,}3\). Đường nét đứt là kỳ vọng \(3\); mũi tên hai đầu dài một độ lệch chuẩn về mỗi phía.

Ví dụ 6 (thời gian chờ, lời hẹn của Chương 41). Tung một con xúc xắc cho tới khi ra mặt 6; gọi \(T\) là số lần tung. \(T\) có thể bằng 1, 2, 3, ... mà không có giới hạn trên, và \(P(T = k) = \left(\frac56\right)^{k - 1} \cdot \frac16\): \(k - 1\) lần đầu trượt rồi lần thứ \(k\) trúng. Các xác suất này lập thành một cấp số nhân, nên phân phối của \(T\) gọi là phân phối hình học (geometric distribution). Có một mẹo dùng biến chỉ báo để tính \(E[T]\): \(T\) bằng số các số nguyên \(k \geq 1\) thỏa \(T \geq k\) (nếu \(T = 4\) thì các số ấy là 1, 2, 3, 4). Vậy \(T = \mathbf{1}_{\{T \geq 1\}} + \mathbf{1}_{\{T \geq 2\}} + \dots\), và vì \(T \geq k\) nghĩa là \(k - 1\) lần đầu đều trượt,

\[ E[T] = P(T \geq 1) + P(T \geq 2) + P(T \geq 3) + \dots = 1 + \frac56 + \left(\frac56\right)^2 + \dots = \frac{1}{1 - \frac56} = 6, \]

theo công thức tổng cấp số nhân của Chương 31. Tổng quát, nếu mỗi lần thử thành công với xác suất \(p > 0\), độc lập với nhau, thì thời gian chờ có kỳ vọng \(\frac1p\) (Mệnh đề 8). Với xổ số chọn 6 trong 45 số ở Chương 41, \(p = \frac{1}{8.145.060}\); mua mỗi tuần một vé thì số tuần chờ tới lần trúng giải đặc biệt đầu tiên có kỳ vọng đúng 8.145.060 tuần, khoảng 156.600 năm. Chữ "trung bình" của Chương 41 giờ đã có nghĩa chính xác.

Phân phối của số lần tung tới khi ra mặt 6
Phân phối hình học của số lần tung tới khi ra mặt 6. Giá trị có xác suất lớn nhất là 1, nhưng kỳ vọng là 6: cái đuôi dài bên phải, những lần chờ rất lâu, kéo điểm cân bằng sang phải.

Ranh giới

Kỳ vọng có thể là một giá trị không bao giờ xảy ra. Không ai tung được mặt \(3{,}5\). Kỳ vọng cũng không phải giá trị hay gặp nhất (với thời gian chờ mặt 6, giá trị hay gặp nhất là 1 còn kỳ vọng là 6), cũng không nhất thiết nằm ở chính giữa các giá trị. Nó là điểm cân bằng, và chỉ thế.

Cùng kỳ vọng, khác độ phân tán. Ba biến ngẫu nhiên dưới đây cùng có kỳ vọng \(3{,}5\) nhưng độ lệch chuẩn là \(0{,}5\), khoảng \(1{,}71\)\(2{,}5\). Hai khoản đầu tư có cùng lợi nhuận kỳ vọng có thể có rủi ro rất khác nhau; kỳ vọng một mình không nói gì về rủi ro. Người mua bảo hiểm chấp nhận một kỳ vọng âm để đổi lấy độ phân tán nhỏ hơn (bài B7); Chương 57 sẽ bàn vì sao lựa chọn ấy có thể hợp lý.

Ba phân phối cùng kỳ vọng 3,5 nhưng khác độ lệch chuẩn
Ba phân phối có cùng kỳ vọng \(3{,}5\) (đường nét đứt) nhưng độ lệch chuẩn khác nhau: từ trái sang phải là \(0{,}5\), khoảng \(1{,}71\)\(2{,}5\).

\(E[X^2]\) khác \((E[X])^2\), và \(E[XY]\) khác \(E[X]\,E[Y]\) khi không độc lập. Với xúc xắc, \(E[X^2] = \frac{91}{6} \approx 15{,}17\) còn \((E[X])^2 = 12{,}25\). Hiệu của chúng chính là phương sai (Định lý 5), nên \(E[X^2] = (E[X])^2\) chỉ khi phương sai bằng 0, tức \(X\) là hằng số trên mọi thế giới có xác suất dương (bài C1). Lấy \(Y = X\) thì \(E[XY] = E[X^2] \neq E[X]\,E[Y]\). Tính chất nhân \(E[XY] = E[X]\,E[Y]\) cần độc lập (Định lý 6), khác hẳn tính chất cộng, luôn đúng.

Phương sai không cộng khi không độc lập. \(\mathrm{Var}(X + X) = \mathrm{Var}(2X) = 4\,\mathrm{Var}(X)\), không phải \(2\,\mathrm{Var}(X)\). Gánh hai lần cùng một rủi ro thì độ lệch chuẩn gấp đôi; gánh hai rủi ro độc lập cùng cỡ thì độ lệch chuẩn chỉ gấp \(\sqrt2\) lần, vì phương sai gấp đôi. Chia nhỏ rủi ro có tác dụng là nhờ khoảng cách giữa \(2\)\(\sqrt2\) ấy, và Chương 45 sẽ đẩy nó tới cùng.

Kỳ vọng có thể vô hạn. Tung đồng xu cho tới khi ra ngửa; nếu ngửa xuất hiện lần đầu ở lần tung thứ \(k\), người chơi nhận \(2^k\) đồng. Điều đó xảy ra với xác suất \(\frac{1}{2^k}\), nên kỳ vọng của tiền thưởng là \(2 \cdot \frac12 + 4 \cdot \frac14 + 8 \cdot \frac18 + \dots = 1 + 1 + 1 + \dots\), lớn hơn mọi số. Theo kỳ vọng, người chơi nên sẵn lòng trả bất kỳ giá nào để được chơi một ván; vậy mà hầu như không ai chịu trả một số tiền lớn. Đó là nghịch lý St. Petersburg (St. Petersburg paradox), mang tên thành phố nơi Daniel Bernoulli công bố một lời giải cho nó năm 1738. Chương 57 sẽ trở lại nghịch lý này. Ở đây chỉ cần ghi nhận: kỳ vọng là một tổng, có thể là tổng vô hạn, và tổng vô hạn có thể không hữu hạn.

Phát biểu chặt chẽ

Định nghĩa 1 (biến ngẫu nhiên, phân phối, kỳ vọng). Cho \(\Omega\) hữu hạn hoặc đếm được, với trọng số \(p\) như ở Chương 41. Một biến ngẫu nhiên là một hàm \(X: \Omega \to \mathbb{R}\). Phân phối của \(X\) là hàm \(x \mapsto P(X = x)\) trên tập giá trị của \(X\). Kỳ vọng của \(X\)

\[ E[X] = \sum_{\omega \in \Omega} X(\omega)\,p(\omega), \]

với điều kiện, khi \(\Omega\) vô hạn, tổng \(\sum_{\omega} \lvert X(\omega) \rvert\,p(\omega)\) hữu hạn; điều kiện này bảo đảm tổng không phụ thuộc thứ tự cộng. Khi \(X \geq 0\), ta cho phép viết \(E[X] = +\infty\) nếu tổng không hữu hạn.

Mệnh đề 2. Nếu \(X\) có kỳ vọng thì \(E[X] = \sum_{x} x \cdot P(X = x)\), tổng lấy trên các giá trị của \(X\).

Chứng minh. Các biến cố \(\{X = x\}\) đôi một rời nhau và có hợp là \(\Omega\). Gom các thế giới theo giá trị của \(X\) (được phép, vì tổng hội tụ tuyệt đối):

\[ \sum_{\omega} X(\omega)\,p(\omega) = \sum_{x} \sum_{\omega : X(\omega) = x} x\,p(\omega) = \sum_{x} x \cdot P(X = x). \qquad \square \]

Định lý 3 (tính tuyến tính của kỳ vọng). Nếu \(X\), \(Y\) có kỳ vọng và \(a\), \(b\), \(c\) là các số thực thì \(E[aX + bY + c] = a\,E[X] + b\,E[Y] + c\). Không cần giả thiết độc lập.

Chứng minh. Tính trên từng thế giới:

\[ \sum_{\omega} \big(aX(\omega) + bY(\omega) + c\big)\,p(\omega) = a\sum_{\omega} X(\omega)\,p(\omega) + b\sum_{\omega} Y(\omega)\,p(\omega) + c\sum_{\omega} p(\omega), \]

\(\sum_{\omega} p(\omega) = 1\). \(\square\)

Chứng minh chỉ dùng một điều: \(X\)\(Y\) được tính tại cùng một thế giới. Không cần biết chúng liên quan với nhau thế nào. Bằng quy nạp, \(E[X_1 + \dots + X_n] = E[X_1] + \dots + E[X_n]\).

Định nghĩa 4 (phương sai). Nếu \(X\) có kỳ vọng \(\mu\), phương sai của \(X\)\(\mathrm{Var}(X) = E\big[(X - \mu)^2\big]\), có thể bằng \(+\infty\), và độ lệch chuẩn của \(X\)\(\sqrt{\mathrm{Var}(X)}\).

Định lý 5. Nếu \(X\) có phương sai hữu hạn thì \(\mathrm{Var}(X) = E[X^2] - (E[X])^2\), và với mọi số thực \(a\), \(b\), \(\mathrm{Var}(aX + b) = a^2\,\mathrm{Var}(X)\).

Chứng minh. Khai triển \((X - \mu)^2 = X^2 - 2\mu X + \mu^2\) và dùng Định lý 3: \(E\big[(X - \mu)^2\big] = E[X^2] - 2\mu\,E[X] + \mu^2 = E[X^2] - \mu^2\). Với \(Y = aX + b\), Định lý 3 cho \(E[Y] = a\mu + b\), nên \(Y - E[Y] = a(X - \mu)\)\(\mathrm{Var}(Y) = E\big[a^2 (X - \mu)^2\big] = a^2\,\mathrm{Var}(X)\). \(\square\)

Dời cả phân phối đi \(b\) không làm đổi độ phân tán; kéo giãn theo hệ số \(a\) nhân độ lệch chuẩn với \(\lvert a \rvert\).

Định lý 6 (biến ngẫu nhiên độc lập). Nếu \(X\), \(Y\) độc lập và có kỳ vọng thì \(E[XY] = E[X]\,E[Y]\). Nếu thêm phương sai hữu hạn thì \(\mathrm{Var}(X + Y) = \mathrm{Var}(X) + \mathrm{Var}(Y)\). Tổng quát hơn, nếu \(X_1, \dots, X_n\) đôi một độc lập và có phương sai hữu hạn thì \(\mathrm{Var}(X_1 + \dots + X_n) = \mathrm{Var}(X_1) + \dots + \mathrm{Var}(X_n)\).

Chứng minh. Gom các thế giới theo cặp giá trị \((x; y)\) của \((X; Y)\) như trong Mệnh đề 2, rồi dùng độc lập:

\[ E[XY] = \sum_{x, y} xy\,P(X = x, Y = y) = \sum_{x, y} xy\,P(X = x)\,P(Y = y) = \Big(\sum_{x} x\,P(X = x)\Big)\Big(\sum_{y} y\,P(Y = y)\Big) = E[X]\,E[Y]. \]

Đặt \(\mu = E[X]\), \(\nu = E[Y]\) (đọc là "nuy"). Khai triển \(\big((X - \mu) + (Y - \nu)\big)^2\) rồi lấy kỳ vọng:

\[ \mathrm{Var}(X + Y) = \mathrm{Var}(X) + \mathrm{Var}(Y) + 2\,E\big[(X - \mu)(Y - \nu)\big], \]

\(E\big[(X - \mu)(Y - \nu)\big] = E[XY] - \mu\nu = 0\) theo phần đầu. Với \(n\) biến, bình phương của \(\sum_i (X_i - \mu_i)\) gồm các số hạng \((X_i - \mu_i)^2\) và các số hạng chéo \(2(X_i - \mu_i)(X_j - \mu_j)\) với \(i < j\); mỗi số hạng chéo có kỳ vọng 0 vì \(X_i\), \(X_j\) độc lập. \(\square\)

Đại lượng \(E\big[(X - \mu)(Y - \nu)\big]\) trong chứng minh sẽ có tên riêng ở Chương 47: nó đo mức hai biến cùng lệch về một phía.

Hệ quả 7 (phân phối nhị thức). Nếu \(X\) có phân phối nhị thức với \(n\) phép thử và xác suất thành công \(p\) thì \(E[X] = np\)\(\mathrm{Var}(X) = np(1 - p)\).

Chứng minh. \(X = \mathbf{1}_{A_1} + \dots + \mathbf{1}_{A_n}\), với \(A_i\) là "phép thử thứ \(i\) thành công". Mỗi \(\mathbf{1}_{A_i}\) có kỳ vọng \(p\) và, vì \(\mathbf{1}_{A_i}^2 = \mathbf{1}_{A_i}\), có phương sai \(p - p^2 = p(1 - p)\) theo Định lý 5. Các phép thử độc lập nên các biến chỉ báo đôi một độc lập; Định lý 3 và Định lý 6 cho kết quả. \(\square\)

Mệnh đề 8 (thời gian chờ). Cho \(0 < p \leq 1\). Trên \(\Omega = \{1, 2, 3, \dots\}\), gán cho thế giới \(k\) ("thành công lần đầu ở phép thử thứ \(k\)") trọng số \((1 - p)^{k - 1}p\), và đặt \(T(k) = k\). Khi đó tổng các trọng số bằng 1, \(P(T \geq j) = (1 - p)^{j - 1}\) với mọi \(j \geq 1\), và \(E[T] = \frac1p\).

Chứng minh. Theo công thức tổng cấp số nhân với công bội \(1 - p\), trong đó \(0 \leq 1 - p < 1\) (Chương 31), \(\sum_{k \geq j} (1 - p)^{k - 1}p = (1 - p)^{j - 1}p \cdot \frac{1}{1 - (1 - p)} = (1 - p)^{j - 1}\); với \(j = 1\), đó là tổng các trọng số. Viết \(k = \sum_{j = 1}^{k} 1\) rồi đổi thứ tự cộng, điều được phép vì mọi số hạng đều không âm:

\[ E[T] = \sum_{k \geq 1} k\,P(T = k) = \sum_{k \geq 1} \sum_{j = 1}^{k} P(T = k) = \sum_{j \geq 1} \sum_{k \geq j} P(T = k) = \sum_{j \geq 1} (1 - p)^{j - 1} = \frac1p. \qquad \square \]

Sợi chỉ

  • S6. Biểu diễn khác nhau của cùng một cấu trúc. Kỳ vọng vừa là một trung bình có trọng số, vừa là trọng tâm của những khối đặt trên thanh cân, và ở Chương 45 sẽ là trung bình dài hạn. Nó tính được trên các thế giới hay trên các giá trị (Mệnh đề 2), và một biến ngẫu nhiên vừa là một hàm trên các thế giới của Chương 41, vừa là một phân phối.
  • S7. Xấp xỉ và sai số. Kỳ vọng là con số đại diện cho một đại lượng bất định; độ lệch chuẩn cho biết đại diện ấy sai điển hình bao nhiêu, và kỳ vọng là con số làm trung bình bình phương sai số nhỏ nhất (bài C2). Hai rủi ro độc lập cộng lại có độ lệch chuẩn tăng chậm hơn tổng, chỉ gấp \(\sqrt2\) lần: mầm của luật số lớn (law of large numbers).
  • S5. Rời rạc và liên tục. Ở đây kỳ vọng là một tổng, có thể là tổng vô hạn. Khi giá trị của biến lấp đầy cả một khoảng, như ở Chương 46, tổng trở thành tích phân, đúng như cách Chương 37 cộng vô số mảnh nhỏ.
  • S1. Bất biến qua biến đổi. Phương sai không đổi khi dời cả phân phối đi một khoảng, và chỉ nhân với \(a^2\) khi kéo giãn (Định lý 5), như cách dời và kéo giãn đồ thị ở Chương 23.

Tóm tắt

  • Biến ngẫu nhiên là một hàm từ các thế giới khả dĩ tới số; sự ngẫu nhiên nằm ở việc thế giới nào xảy ra, không nằm ở hàm.
  • Phân phối liệt kê các giá trị cùng xác suất của chúng; kỳ vọng là trung bình có trọng số của các giá trị, là điểm cân bằng của phân phối.
  • Tính tuyến tính của kỳ vọng luôn đúng, không cần độc lập; cùng với biến chỉ báo, nó giải nhanh những bài toán như trả mũ (kỳ vọng 1) hay thời gian chờ (kỳ vọng \(\frac1p\)).
  • Phương sai là kỳ vọng của bình phương độ lệch; độ lệch chuẩn có cùng đơn vị với biến; \(\mathrm{Var}(X) = E[X^2] - (E[X])^2\)\(\mathrm{Var}(aX + b) = a^2\,\mathrm{Var}(X)\).
  • Với các biến độc lập, kỳ vọng của tích bằng tích các kỳ vọng và phương sai của tổng bằng tổng các phương sai; không có độc lập thì cả hai có thể sai.
  • Phân phối nhị thức có kỳ vọng \(np\) và phương sai \(np(1 - p)\); phân phối hình học có kỳ vọng \(\frac1p\).
  • Kỳ vọng có thể là một giá trị không bao giờ xảy ra, có thể vô hạn, và một mình nó không nói gì về rủi ro.

Bài tập

A. Tư duy

A1. Gọi \(S\) là tổng hai xúc xắc. Trong \(S\), cái gì là ngẫu nhiên và cái gì không? Nếu đã biết kết quả của hai lần tung thì \(S\) là gì?

Lời giải

Quy tắc "cộng hai mặt" không có gì ngẫu nhiên: nó là một hàm cố định từ 36 thế giới tới các số 2 đến 12. Cái ngẫu nhiên, hay đúng hơn là cái chưa biết, là thế giới nào xảy ra. Khi đã biết kết quả, chẳng hạn \((2; 5)\), thì \(S\) chỉ còn là một con số cụ thể, 7: giá trị của hàm tại thế giới ấy.

A2. Một người nói: "Trò chơi này có kỳ vọng dương, nên chơi một ván chắc chắn có lợi." Câu nói sai ở đâu?

Lời giải

Kỳ vọng dương không có nghĩa là mọi thế giới đều có lợi: một ván cụ thể vẫn có thể thua, và có thể thua nhiều. Kỳ vọng là trung bình có trọng số trên các thế giới khả dĩ của một ván; nó nói về "trung bình", không nói về từng lần. Độ phân tán cho biết kết quả một ván có thể lệch xa kỳ vọng tới đâu. Chỉ khi chơi rất nhiều ván độc lập, trung bình thực tế mới bám sát kỳ vọng (Chương 45), và ngay cả khi ấy, người chơi phải đủ vốn để sống sót qua những chuỗi thua.

A3. Vì sao tính tuyến tính của kỳ vọng không cần độc lập, còn công thức \(E[XY] = E[X]\,E[Y]\) thì cần? Giải thích bằng lời.

Lời giải

Kỳ vọng của một tổng là tổng trên các thế giới, và tại mỗi thế giới, giá trị của \(X + Y\) chỉ là giá trị của \(X\) cộng giá trị của \(Y\); phép cộng tách ra được mà không cần biết \(X\)\(Y\) liên quan thế nào. Với tích thì khác: \(E[XY]\) phụ thuộc vào việc giá trị lớn của \(X\) có hay đi cùng giá trị lớn của \(Y\) không. Nếu có, như khi \(Y = X\), tích trung bình lớn hơn tích các trung bình. Độc lập bảo đảm không có sự "đi cùng" nào như thế, và khi ấy tổng kép tách thành tích hai tổng.

B. Tính toán

B1. Một xúc xắc bốn mặt ghi 1, 2, 3, 4, cân đối. Tính kỳ vọng, phương sai và độ lệch chuẩn của mặt xuất hiện.

Lời giải

\(E[X] = \frac{1 + 2 + 3 + 4}{4} = 2{,}5\). \(E[X^2] = \frac{1 + 4 + 9 + 16}{4} = 7{,}5\), nên \(\mathrm{Var}(X) = 7{,}5 - 2{,}5^2 = 1{,}25\), và độ lệch chuẩn là \(\sqrt{1{,}25} \approx 1{,}12\).

B2. Kiểm lại \(\mathrm{Var}(S) = \frac{35}{6}\) cho tổng \(S\) của hai xúc xắc bằng phân phối của \(S\): tính \(E[S^2]\) rồi dùng Định lý 5.

Lời giải

Với số thế giới \(1, 2, 3, 4, 5, 6, 5, 4, 3, 2, 1\) cho các tổng từ 2 đến 12: \(E[S^2] = \frac{4 \cdot 1 + 9 \cdot 2 + 16 \cdot 3 + 25 \cdot 4 + 36 \cdot 5 + 49 \cdot 6 + 64 \cdot 5 + 81 \cdot 4 + 100 \cdot 3 + 121 \cdot 2 + 144 \cdot 1}{36} = \frac{1974}{36} = \frac{329}{6}\). Vậy \(\mathrm{Var}(S) = \frac{329}{6} - 7^2 = \frac{329 - 294}{6} = \frac{35}{6}\), khớp với Ví dụ 3.

B3. Trả 4.000 đồng để được tung hai đồng xu, và nhận 5.000 đồng cho mỗi mặt ngửa. Gọi \(L\) là tiền lãi. Tính \(E[L]\) và độ lệch chuẩn của \(L\).

Lời giải

Với \(X\) là số mặt ngửa, \(L = 5.000X - 4.000\). Ta có \(E[X] = 1\)\(\mathrm{Var}(X) = E[X^2] - 1 = \frac{0 + 1 \cdot 2 + 4 \cdot 1}{4} - 1 = \frac12\). Theo Định lý 3 và Định lý 5, \(E[L] = 5.000 - 4.000 = 1.000\) đồng và \(\mathrm{Var}(L) = 5.000^2 \cdot \frac12 = 12.500.000\), nên độ lệch chuẩn là \(\frac{5.000}{\sqrt2} \approx 3.536\) đồng. Tiền trả để chơi không ảnh hưởng tới độ phân tán.

B4. Tung một đồng xu cân đối 20 lần. Tính kỳ vọng và độ lệch chuẩn của số lần ngửa, và xác suất có đúng 10 lần ngửa.

Lời giải

Phân phối nhị thức với \(n = 20\), \(p = 0{,}5\): kỳ vọng \(10\), phương sai \(20 \cdot 0{,}5 \cdot 0{,}5 = 5\), độ lệch chuẩn \(\sqrt5 \approx 2{,}24\). \(P(X = 10) = \binom{20}{10} \cdot \frac{1}{2^{20}} = \frac{184.756}{1.048.576} \approx 0{,}176\). Kỳ vọng là 10, nhưng đúng 10 lần ngửa chỉ xảy ra với xác suất khoảng 18%.

B5. Với bốn người ở bài toán trả mũ, liệt kê số cách trả theo số người nhận đúng mũ, rồi kiểm lại rằng kỳ vọng bằng 1. Tính xác suất không ai nhận đúng mũ.

Lời giải

\(4! = 24\) cách trả. Cả bốn đúng: 1 cách. Đúng ba người là không thể, vì người thứ tư khi ấy cũng đúng. Đúng hai người: chọn 2 người đúng, \(\binom42 = 6\) cách, và hai người còn lại đổi mũ cho nhau: 6 cách. Đúng một người: chọn người ấy, 4 cách, ba người còn lại đều sai: 2 cách mỗi lần, tổng 8 cách. Không ai đúng: \(24 - 1 - 6 - 8 = 9\) cách. Kỳ vọng \(\frac{4 \cdot 1 + 2 \cdot 6 + 1 \cdot 8 + 0 \cdot 9}{24} = \frac{24}{24} = 1\). Xác suất không ai nhận đúng mũ là \(\frac{9}{24} = \frac38\).

B6. Tung 12 con xúc xắc. Tính kỳ vọng và phương sai của số mặt 6 xuất hiện.

Lời giải

Số mặt 6 có phân phối nhị thức với \(n = 12\), \(p = \frac16\): kỳ vọng \(12 \cdot \frac16 = 2\), phương sai \(12 \cdot \frac16 \cdot \frac56 = \frac53\).

B7. Một ngôi nhà có xác suất \(0{,}002\) bị cháy trong một năm, với thiệt hại 400 triệu đồng; phí bảo hiểm là 1 triệu đồng mỗi năm (số liệu giả định). (a) Tính lợi nhuận kỳ vọng của công ty bảo hiểm trên hợp đồng này. (b) Với chủ nhà, so sánh kỳ vọng và độ lệch chuẩn của khoản mất trong năm khi có và khi không mua bảo hiểm.

Lời giải

(a) Công ty nhận 1 triệu và phải trả 400 triệu với xác suất \(0{,}002\): lợi nhuận kỳ vọng \(1 - 0{,}002 \cdot 400 = 1 - 0{,}8 = 0{,}2\) triệu, tức 200.000 đồng. (b) Không mua: khoản mất là \(400 \cdot \mathbf{1}_{\text{cháy}}\) triệu, kỳ vọng \(0{,}8\) triệu, phương sai \(400^2 \cdot 0{,}002 \cdot 0{,}998\), độ lệch chuẩn \(400\sqrt{0{,}002 \cdot 0{,}998} \approx 17{,}9\) triệu. Có mua: khoản mất luôn là 1 triệu, kỳ vọng 1 triệu, độ lệch chuẩn 0. Chủ nhà trả thêm 200.000 đồng về kỳ vọng để xóa hẳn một độ lệch chuẩn khoảng 17,9 triệu đồng.

B8. Tung hai con xúc xắc cùng lúc, lặp lại cho tới khi được hai mặt 6. Tính kỳ vọng của số lần tung, và xác suất sau 36 lần tung vẫn chưa được.

Lời giải

Mỗi lần tung được hai mặt 6 với xác suất \(\frac{1}{36}\), độc lập, nên theo Mệnh đề 8 số lần tung có kỳ vọng 36. Xác suất 36 lần đầu đều trượt là \(\left(\frac{35}{36}\right)^{36} \approx 0{,}363\): hơn một phần ba số lần, chờ tới "kỳ vọng" vẫn chưa được.

B9. Tung một con xúc xắc cho tới khi mỗi mặt từ 1 đến 6 đều đã xuất hiện ít nhất một lần. Tính kỳ vọng của số lần tung.

Lời giải

Chia quá trình thành 6 chặng: chặng thứ \(i\) bắt đầu khi đã thấy \(i - 1\) mặt khác nhau và kết thúc khi thấy mặt mới thứ \(i\). Trong chặng thứ \(i\), mỗi lần tung ra mặt mới với xác suất \(\frac{6 - i + 1}{6}\), nên theo Mệnh đề 8 độ dài chặng có kỳ vọng \(\frac{6}{7 - i}\). Theo tính tuyến tính, tổng số lần tung có kỳ vọng \(\frac66 + \frac65 + \frac64 + \frac63 + \frac62 + \frac61 = 6\left(1 + \frac12 + \frac13 + \frac14 + \frac15 + \frac16\right) = 6 \cdot \frac{49}{20} = 14{,}7\).

B10. Gọi \(X\) là mặt của xúc xắc thứ nhất và \(S\) là tổng của hai xúc xắc. Tính \(E[XS]\) và so với \(E[X]\,E[S]\).

Lời giải

\(XS = X^2 + X X_2\), với \(X_2\) là mặt của xúc xắc thứ hai, độc lập với \(X\). Theo Định lý 3 và Định lý 6, \(E[XS] = E[X^2] + E[X]\,E[X_2] = \frac{91}{6} + \frac{49}{4} = \frac{182 + 147}{12} = \frac{329}{12} \approx 27{,}42\), trong khi \(E[X]\,E[S] = 3{,}5 \cdot 7 = 24{,}5\). Hai số khác nhau, vì \(X\)\(S\) không độc lập: mặt thứ nhất lớn thì tổng hay lớn.

C. Phản ví dụ và chứng minh

C1. Chứng minh rằng nếu \(\mathrm{Var}(X) = 0\) thì \(X(\omega) = E[X]\) với mọi thế giới \(\omega\)\(p(\omega) > 0\).

Lời giải

\(\mathrm{Var}(X) = \sum_{\omega} (X(\omega) - \mu)^2\,p(\omega)\) là tổng của các số không âm. Tổng bằng 0 nên mọi số hạng bằng 0: với mỗi \(\omega\)\(p(\omega) > 0\), \((X(\omega) - \mu)^2 = 0\), tức \(X(\omega) = \mu\). \(\square\)

C2. Cho \(X\) có phương sai hữu hạn và kỳ vọng \(\mu\). Chứng minh rằng với mọi số \(c\), \(E\big[(X - c)^2\big] = \mathrm{Var}(X) + (\mu - c)^2\). Suy ra \(c = \mu\) là số làm trung bình bình phương sai số \(E\big[(X - c)^2\big]\) nhỏ nhất.

Lời giải

Viết \(X - c = (X - \mu) + (\mu - c)\) và khai triển: \((X - c)^2 = (X - \mu)^2 + 2(\mu - c)(X - \mu) + (\mu - c)^2\). Lấy kỳ vọng, dùng Định lý 3 và \(E[X - \mu] = 0\): \(E\big[(X - c)^2\big] = \mathrm{Var}(X) + 0 + (\mu - c)^2\). Số hạng \((\mu - c)^2 \geq 0\) và chỉ bằng 0 khi \(c = \mu\). \(\square\) Nếu phải đoán một con số bất định bằng một số duy nhất, và cái giá của một lần đoán sai là bình phương sai số, thì kỳ vọng là cách đoán tốt nhất.

C3. Tìm hai biến ngẫu nhiên \(X\), \(Y\) không độc lập mà vẫn có \(E[XY] = E[X]\,E[Y]\). Điều này cho thấy gì về chiều ngược lại của Định lý 6?

Lời giải

Lấy \(X\) nhận các giá trị \(-1\), \(0\), \(1\), mỗi giá trị với xác suất \(\frac13\), và \(Y = X^2\). Khi đó \(E[X] = 0\)\(E[XY] = E[X^3] = \frac{-1 + 0 + 1}{3} = 0 = E[X]\,E[Y]\). Nhưng \(X\), \(Y\) không độc lập: \(P(X = 0, Y = 1) = 0\) trong khi \(P(X = 0)\,P(Y = 1) = \frac13 \cdot \frac23 = \frac29\). Vậy \(E[XY] = E[X]\,E[Y]\) không kéo theo độc lập: chiều ngược lại của Định lý 6 sai. Ở đây \(Y\) hoàn toàn được xác định bởi \(X\), nhưng quan hệ ấy không phải kiểu "cùng lớn, cùng nhỏ", nên phép nhân trung bình không phát hiện ra nó.

Câu hỏi để ngỏ

Kỳ vọng là trung bình trên mọi thế giới khả dĩ, nhưng ta chỉ sống trong một thế giới. Vì sao khi lặp lại nhiều lần, trung bình thực tế lại bám sát kỳ vọng, và bám chặt đến mức nào?