Chương 47: Tương quan và nhân quả¶
Câu hỏi mở đầu
Đến giờ mỗi biến ngẫu nhiên đứng một mình. Khi hai đại lượng cùng biến động, như giờ học và điểm thi, quảng cáo và doanh số, làm sao đo mức độ chúng "đi cùng nhau"? Và đi cùng nhau có nghĩa là cái này gây ra cái kia không?
Hai đại lượng cùng biến động¶
Hỏi năm học sinh xem mỗi em học bao nhiêu giờ cho một bài kiểm tra và được bao nhiêu điểm. Mỗi em cho một cặp số \((x; y)\), và mỗi cặp là một điểm trên mặt phẳng tọa độ. Hình vẽ các điểm ấy gọi là biểu đồ phân tán (scatter plot). Nhìn biểu đồ, ta thấy ngay các điểm có xu hướng đi lên, đi xuống, hay tản mát. Câu hỏi của chương: nén xu hướng ấy vào một con số.
Cấu trúc nguyên thủy nằm ở độ lệch khỏi trung bình. Với mỗi điểm, xét hai độ lệch: \(x\) lệch khỏi trung bình của các \(x\) bao nhiêu, \(y\) lệch khỏi trung bình của các \(y\) bao nhiêu. Nếu điểm ấy có \(x\) trên trung bình và \(y\) cũng trên trung bình, hoặc cả hai cùng dưới, tích hai độ lệch là số dương: điểm ấy "đi cùng chiều". Nếu một bên trên, một bên dưới, tích là số âm. Lấy trung bình các tích ấy, ta được hiệp phương sai (covariance): dương khi các cặp cùng chiều chiếm ưu thế, âm khi các cặp ngược chiều chiếm ưu thế. Đây chính là đại lượng \(E[(X - \mu)(Y - \nu)]\) đã xuất hiện trong chứng minh Định lý 6 ở Chương 44, nay có tên riêng.
Hiệp phương sai có một nhược điểm: nó phụ thuộc vào đơn vị. Đo thời gian học bằng phút thay vì giờ, hiệp phương sai nhân lên 60 lần, dù quan hệ giữa hai đại lượng không đổi. Cách chữa là đo mỗi độ lệch bằng đơn vị độ lệch chuẩn của chính nó, tức dùng điểm z của Chương 46. Trung bình của tích hai điểm z là hệ số tương quan (correlation coefficient) \(r\), một con số không có đơn vị, luôn nằm giữa \(-1\) và \(1\) (Định lý 2); mức độ "đi cùng nhau" mà nó đo gọi là tương quan (correlation).
Vì sao cấu trúc này phải xuất hiện, dù chưa ai đặt tên cho nó? Vì một thước đo "đi cùng nhau" nào cũng phải thỏa ba đòi hỏi: đối xứng giữa hai đại lượng; dương khi trên trung bình hay đi với trên trung bình; không phụ thuộc vào đơn vị hay gốc đo. Đòi hỏi thứ ba buộc ta dùng điểm z, và phép đơn giản nhất kết hợp hai điểm z mà vẫn đối xứng, dương khi cùng dấu, là nhân chúng với nhau. Còn câu hỏi thứ hai của chương, đi cùng nhau có phải là gây ra hay không, thì không con số nào trả lời được một mình; ta sẽ thấy vì sao ở mục Ranh giới.
Ký hiệu¶
Cho \(n\) cặp số \((x_1; y_1), \dots, (x_n; y_n)\) với trung bình \(\bar x\), \(\bar y\) và độ lệch chuẩn \(s_x\), \(s_y\) (chia cho \(n\), như phương sai của Chương 44 khi mỗi điểm có trọng số \(\frac1n\)). Hiệp phương sai và hệ số tương quan là
Khi tính tay, gọn hơn là dùng các tổng \(S_{xy} = \sum (x_i - \bar x)(y_i - \bar y)\), \(S_{xx} = \sum (x_i - \bar x)^2\), \(S_{yy} = \sum (y_i - \bar y)^2\): khi đó \(r = \frac{S_{xy}}{\sqrt{S_{xx} S_{yy}}}\), vì các thừa số \(\frac1n\) triệt tiêu. Có sách chia cho \(n - 1\) thay cho \(n\); hệ số \(r\) không đổi. Với hai biến ngẫu nhiên, \(\mathrm{Cov}(X, Y) = E[(X - \mu)(Y - \nu)]\) và hệ số tương quan là \(\frac{\mathrm{Cov}(X, Y)}{\sigma_X \sigma_Y}\).
Nếu muốn dùng \(x\) để dự đoán \(y\) bằng một đường thẳng \(\hat y = a + bx\), mỗi điểm có một phần dư (residual) \(e_i = y_i - \hat y_i\), khoảng cách theo chiều đứng từ điểm tới đường. Đường hồi quy (regression line) là đường làm tổng bình phương các phần dư nhỏ nhất; cách chọn ấy gọi là phương pháp bình phương nhỏ nhất (least squares method). Định lý 3 cho công thức:
nên đường hồi quy luôn đi qua điểm \((\bar x; \bar y)\). Viết bằng điểm z, nó là \(\hat z_y = r z_x\): lệch \(z_x\) độ lệch chuẩn theo \(x\) thì dự đoán lệch \(r z_x\) độ lệch chuẩn theo \(y\).
Làm bằng tay¶
Ví dụ 1 (hệ số tương quan của năm cặp số). Năm học sinh học 1, 2, 3, 4, 5 giờ và được 4, 5, 7, 6, 8 điểm (giả định). Trung bình \(\bar x = 3\), \(\bar y = 6\).
| \(x\) | \(y\) | \(x - \bar x\) | \(y - \bar y\) | tích | \((x - \bar x)^2\) | \((y - \bar y)^2\) |
|---|---|---|---|---|---|---|
| 1 | 4 | \(-2\) | \(-2\) | 4 | 4 | 4 |
| 2 | 5 | \(-1\) | \(-1\) | 1 | 1 | 1 |
| 3 | 7 | 0 | 1 | 0 | 0 | 1 |
| 4 | 6 | 1 | 0 | 0 | 1 | 0 |
| 5 | 8 | 2 | 2 | 4 | 4 | 4 |
| tổng | 9 | 10 | 10 |
Vậy \(S_{xy} = 9\), \(S_{xx} = S_{yy} = 10\), và \(r = \frac{9}{\sqrt{10 \cdot 10}} = 0{,}9\): một quan hệ cùng chiều rất chặt. Hiệp phương sai là \(c_{xy} = \frac95 = 1{,}8\) (đơn vị "giờ nhân điểm"), còn \(r\) thì không có đơn vị.
Ví dụ 2 (đường hồi quy và một dự đoán). Với cùng bộ số, \(b = \frac{S_{xy}}{S_{xx}} = \frac{9}{10} = 0{,}9\) và \(a = \bar y - b\bar x = 6 - 0{,}9 \cdot 3 = 3{,}3\), nên đường hồi quy là \(\hat y = 3{,}3 + 0{,}9x\): mỗi giờ học thêm đi với khoảng \(0{,}9\) điểm. Các phần dư là \(4 - 4{,}2 = -0{,}2\); \(5 - 5{,}1 = -0{,}1\); \(7 - 6 = 1\); \(6 - 6{,}9 = -0{,}9\); \(8 - 7{,}8 = 0{,}2\). Tổng của chúng bằng 0, và tổng bình phương là \(0{,}04 + 0{,}01 + 1 + 0{,}81 + 0{,}04 = 1{,}9\), đúng bằng \(S_{yy}(1 - r^2) = 10 \cdot 0{,}19\) như Định lý 3 dự báo: đường thẳng "giải thích" được \(r^2 = 81\%\) độ phân tán của điểm số. Một học sinh học 6 giờ được dự đoán \(3{,}3 + 0{,}9 \cdot 6 = 8{,}7\) điểm. Dự đoán ra ngoài phạm vi dữ liệu như thế cần thận trọng: không có gì bảo đảm xu hướng còn là đường thẳng ở đó, và học 20 giờ không cho 21,3 điểm trên thang 10.
Ví dụ 3 (quan hệ chặt mà \(r = 0\)). Lấy năm điểm trên parabol \(y = x^2\): \(x = -2, -1, 0, 1, 2\) và \(y = 4, 1, 0, 1, 4\). Ta có \(\bar x = 0\), \(\bar y = 2\), và \(S_{xy} = (-2)(2) + (-1)(-1) + 0 \cdot (-2) + 1 \cdot (-1) + 2 \cdot 2 = 0\), nên \(r = 0\). Vậy mà \(y\) hoàn toàn xác định bởi \(x\). Nửa trái đi xuống, nửa phải đi lên, và hai xu hướng triệt tiêu nhau trong \(r\). Hệ số tương quan chỉ đo quan hệ tuyến tính.
Ví dụ 4 (hồi quy về giá trị trung bình). Một lớp làm hai bài kiểm tra cùng độ khó; điểm mỗi bài có trung bình 6, độ lệch chuẩn 1,5, và hệ số tương quan giữa hai bài là \(0{,}5\) (giả định). Một học sinh được 9 điểm ở bài thứ nhất, tức \(z = 2\). Đường hồi quy dự đoán \(\hat z = 0{,}5 \cdot 2 = 1\) ở bài thứ hai, tức \(6 + 1{,}5 = 7{,}5\) điểm: vẫn trên trung bình, nhưng gần trung bình hơn. Đó là hồi quy về giá trị trung bình (regression to the mean). Nó không cần lý do tâm lý nào: điểm cao ở bài thứ nhất một phần do năng lực, một phần do may mắn; phần năng lực còn ở lại, phần may mắn thì không (bài C3). Và nó đi cả hai chiều: những học sinh giỏi nhất ở bài thứ hai cũng có điểm bài thứ nhất trung bình thấp hơn. Trong một mô phỏng 300 học sinh với đúng các con số ấy, 25 em đạt từ 8,25 điểm trở lên ở bài thứ nhất có trung bình 8,66 ở bài thứ nhất nhưng chỉ 7,36 ở bài thứ hai.
Nếu thầy giáo khen những em điểm cao ở bài thứ nhất rồi thấy các em ấy tụt điểm ở bài thứ hai, thầy có thể kết luận rằng khen làm học sinh tự mãn; nếu thầy phê bình những em điểm thấp rồi thấy các em khá lên, thầy có thể kết luận rằng phê bình có tác dụng. Cả hai kết luận có thể hoàn toàn sai: hồi quy về giá trị trung bình tự nó tạo ra đúng những thay đổi ấy, dù lời khen hay lời phê bình không có tác dụng gì.
Ranh giới¶
Cùng một \(r\), khác hẳn hình dạng. Bốn bộ dữ liệu dưới đây, tự dựng cho chương này, có cùng hệ số tương quan \(0{,}80\) và mỗi bộ có một đường hồi quy, nhưng chúng kể bốn câu chuyện khác nhau: một đám mây có xu hướng, một đường thẳng hoàn hảo bị một điểm lạc kéo xuống, một đường cong lên rồi xuống, và một cụm điểm không có xu hướng gì cộng một điểm xa đơn độc tạo ra toàn bộ tương quan. Một con số không thay được việc nhìn dữ liệu.
Một điểm ngoại lai có thể đổi cả dấu. Thêm vào năm cặp số của Ví dụ 1 một học sinh thứ sáu học 10 giờ mà được 0 điểm (có lẽ nhập nhầm dữ liệu). Hệ số tương quan tụt từ \(0{,}9\) xuống khoảng \(-0{,}58\) (bài B4). Một điểm nằm xa phần còn lại như thế gọi là điểm ngoại lai (outlier); với ít dữ liệu, nó có thể quyết định cả kết luận.
Tương quan không phải nhân quả. Câu thứ hai của câu hỏi mở đầu hỏi về quan hệ nhân quả (causation): cái này có gây ra cái kia không? Hệ số tương quan không trả lời được, vì có ít nhất ba cách để hai đại lượng đi cùng nhau mà không cái nào gây ra cái nào.
Thứ nhất, cả hai cùng bị một đại lượng thứ ba chi phối. Ở một vùng biển (số liệu giả định), những tháng bán được nhiều kem cũng là những tháng có nhiều vụ đuối nước; kem không làm ai chết đuối, mà trời nóng khiến người ta vừa ăn kem vừa đi bơi. Đại lượng thứ ba ấy gọi là biến gây nhiễu (confounder). Một sơ đồ nhân quả (causal diagram) vẽ mũi tên từ nguyên nhân tới kết quả:
flowchart LR
Z["trời nóng"] --> X["doanh số kem"]
Z --> Y["số vụ đuối nước"]
Thứ hai, chiều nhân quả có thể ngược với điều ta đoán. Người dùng nhiều thuốc giảm đau hơn thường đau nhiều hơn: không phải thuốc gây đau, mà cơn đau khiến người ta dùng thuốc. Đó là nhân quả ngược (reverse causation). Tương quan thì đối xứng, \(r\) của \(x\) với \(y\) bằng \(r\) của \(y\) với \(x\), nên nó không thể cho biết chiều của mũi tên.
Thứ ba, trùng hợp. Trong hàng nghìn cặp đại lượng không liên quan gì tới nhau, sẽ có những cặp tương quan mạnh chỉ do tình cờ, nhất là khi mỗi đại lượng chỉ có ít số liệu. Chương 48 sẽ trở lại với cái bẫy này.
Thí nghiệm ngẫu nhiên cắt đứt biến gây nhiễu. Muốn biết một loại thuốc có giúp khỏi bệnh không, so người uống với người không uống là chưa đủ: người chọn uống thuốc có thể khác người không uống ở nhiều mặt, như sức khỏe ban đầu, và khác biệt về kết quả có thể đến từ đó. Trong một thí nghiệm ngẫu nhiên có đối chứng (randomized controlled trial), ai uống thuốc, ai uống viên giả trông giống hệt, tức vào nhóm đối chứng (control group), được quyết định bằng cách tung đồng xu. Đồng xu không biết gì về sức khỏe ban đầu, nên việc được điều trị độc lập với mọi biến gây nhiễu, kể cả những biến không ai nghĩ tới; theo luật số lớn của Chương 45, hai nhóm đủ đông sẽ giống nhau về mọi mặt, trừ viên thuốc. Mũi tên từ biến gây nhiễu tới việc điều trị bị cắt:
flowchart LR
subgraph QS["dữ liệu quan sát"]
S1["sức khỏe ban đầu"] --> T1["uống thuốc"]
S1 --> K1["khỏi bệnh"]
T1 --> K1
end
subgraph TN["thí nghiệm ngẫu nhiên"]
C2["tung đồng xu"] --> T2["uống thuốc"]
S2["sức khỏe ban đầu"] --> K2["khỏi bệnh"]
T2 --> K2
end
Khi không thể làm thí nghiệm, vì lý do đạo đức hay thực tế, kết luận nhân quả từ dữ liệu quan sát vẫn có thể đạt được, nhưng cần thêm những giả định về các mũi tên, nói rõ và kiểm tra được, chứ không đến từ một hệ số tương quan.
Phát biểu chặt chẽ¶
Định nghĩa 1. Cho \(n \geq 2\) cặp số \((x_i; y_i)\) mà các \(x_i\) không bằng nhau hết và các \(y_i\) không bằng nhau hết. Đặt \(S_{xx}\), \(S_{yy}\), \(S_{xy}\) như ở mục Ký hiệu. Hiệp phương sai là \(c_{xy} = \frac{S_{xy}}{n}\) và hệ số tương quan là \(r = \frac{S_{xy}}{\sqrt{S_{xx} S_{yy}}}\).
Định lý 2. \(-1 \leq r \leq 1\). Hơn nữa \(\lvert r \rvert = 1\) khi và chỉ khi mọi điểm \((x_i; y_i)\) nằm trên một đường thẳng; khi ấy \(r = 1\) nếu đường thẳng đi lên và \(r = -1\) nếu nó đi xuống.
Chứng minh. Viết \(u_i = x_i - \bar x\), \(v_i = y_i - \bar y\). Với mọi số thực \(t\),
Vì \(S_{xx} > 0\), \(Q\) là một hàm bậc hai không bao giờ âm, nên biệt thức của nó không dương (Chương 28): \(4S_{xy}^2 - 4S_{xx}S_{yy} \leq 0\), tức \(r^2 \leq 1\). Dấu bằng \(r^2 = 1\) xảy ra khi và chỉ khi biệt thức bằng 0, tức \(Q\) có một nghiệm \(t_0\). Khi ấy tổng các số không âm \((t_0 u_i + v_i)^2\) bằng 0, nên \(v_i = -t_0 u_i\) với mọi \(i\): mọi điểm nằm trên đường thẳng \(y - \bar y = -t_0(x - \bar x)\). Ngược lại, nếu mọi điểm nằm trên một đường thẳng \(y = \alpha + \beta x\) thì \(v_i = \beta u_i\), với \(\beta \neq 0\) vì các \(y_i\) không bằng nhau hết, và \(r = \frac{\beta S_{xx}}{\sqrt{S_{xx} \cdot \beta^2 S_{xx}}} = \frac{\beta}{\lvert \beta \rvert} = \pm 1\), cùng dấu với \(\beta\). \(\square\)
Định lý 3 (đường hồi quy). Trong mọi đường thẳng \(y = a + bx\), tổng bình phương phần dư \(E(a, b) = \sum (y_i - a - bx_i)^2\) nhỏ nhất khi và chỉ khi \(b = \frac{S_{xy}}{S_{xx}}\) và \(a = \bar y - b\bar x\); giá trị nhỏ nhất là \(S_{yy}(1 - r^2)\).
Chứng minh. Làm hai bước, mỗi bước là bài toán tối ưu một biến của Chương 36. Bước 1: cố định \(b\). Đặt \(w_i = y_i - bx_i\); khi ấy \(E(a, b) = \sum (w_i - a)^2\) là một hàm bậc hai của \(a\), nhỏ nhất khi \(a\) bằng trung bình của các \(w_i\), tức \(a = \bar y - b\bar x\) (đây là bài C2 của Chương 44: trung bình làm tổng bình phương sai lệch nhỏ nhất). Bước 2: thay \(a = \bar y - b\bar x\), phần dư thứ \(i\) thành \(v_i - bu_i\), nên
một hàm bậc hai của \(b\) với hệ số \(S_{xx} > 0\), nhỏ nhất tại đỉnh \(b^* = \frac{S_{xy}}{S_{xx}}\), với giá trị \(S_{yy} - \frac{S_{xy}^2}{S_{xx}} = S_{yy}(1 - r^2)\). Với mọi \((a, b)\), \(E(a, b) \geq E(\bar y - b\bar x, b) \geq E(\bar y - b^*\bar x, b^*)\), và cả hai dấu bằng xảy ra khi và chỉ khi \(b = b^*\) và \(a = \bar y - b^*\bar x\). \(\square\)
Hệ quả 4 (hồi quy về giá trị trung bình). Viết bằng điểm z, đường hồi quy là \(\hat z_y = r z_x\). Nếu \(\lvert r \rvert < 1\) và \(z_x \neq 0\) thì \(\lvert \hat z_y \rvert < \lvert z_x \rvert\).
Chứng minh. Từ Định lý 3, \(\hat y - \bar y = b(x - \bar x) = r\frac{s_y}{s_x}(x - \bar x)\); chia hai vế cho \(s_y\) được \(\hat z_y = r z_x\). Phần còn lại do \(\lvert r \rvert < 1\). \(\square\)
Mệnh đề 5 (không phụ thuộc đơn vị). Nếu \(x_i' = \alpha x_i + \beta\) và \(y_i' = \gamma y_i + \delta\) với \(\alpha, \gamma > 0\) thì hệ số tương quan của các cặp \((x_i'; y_i')\) vẫn là \(r\); nếu \(\alpha\gamma < 0\) thì nó là \(-r\).
Chứng minh. Các độ lệch biến thành \(u_i' = \alpha u_i\) và \(v_i' = \gamma v_i\), nên \(r' = \frac{\alpha\gamma S_{xy}}{\sqrt{\alpha^2 S_{xx} \cdot \gamma^2 S_{yy}}} = \frac{\alpha\gamma}{\lvert \alpha\gamma \rvert}\,r\). \(\square\)
Với biến ngẫu nhiên, độc lập kéo theo hiệp phương sai bằng 0 (Định lý 6 của Chương 44), nhưng chiều ngược lại sai: ví dụ \(Y = X^2\) ở bài C3 Chương 44 và Ví dụ 3 ở trên.
Sợi chỉ
- S6. Biểu diễn khác nhau của cùng một cấu trúc. Coi các độ lệch \(u = (u_1, \dots, u_n)\) và \(v = (v_1, \dots, v_n)\) là hai mũi tên trong không gian \(n\) chiều; khi ấy \(r\) là cosin của góc giữa chúng, và Định lý 2 là một bất đẳng thức về góc. Phần VI sẽ làm điều này chính xác, với vector vừa như mũi tên vừa như danh sách (Chương 49).
- S3. Thứ tự của biến đổi. Tương quan đối xứng, nhưng nhân quả có chiều: mũi tên trong sơ đồ nhân quả không đảo được, cũng như \(P(A \mid B)\) khác \(P(B \mid A)\) ở Chương 42. Ngay cả hồi quy cũng có chiều: đường hồi quy của \(y\) theo \(x\) khác đường hồi quy của \(x\) theo \(y\), trừ khi \(\lvert r \rvert = 1\) (bài B3).
- S1. Bất biến qua biến đổi. Hệ số tương quan không đổi khi đổi đơn vị hay gốc đo của từng đại lượng (Mệnh đề 5), vì nó được xây từ điểm z; hiệp phương sai thì không có tính chất ấy.
Tóm tắt¶
- Hiệp phương sai là trung bình tích các độ lệch khỏi trung bình: dương khi hai đại lượng hay cùng lệch về một phía, âm khi hay lệch ngược phía.
- Hệ số tương quan \(r\) là trung bình tích các điểm z, không có đơn vị, luôn nằm giữa \(-1\) và \(1\), và bằng \(\pm 1\) khi và chỉ khi các điểm thẳng hàng.
- \(r\) chỉ đo quan hệ tuyến tính: \(r = 0\) vẫn có thể đi với một quan hệ rất chặt, và những bộ dữ liệu khác hẳn nhau có thể có cùng \(r\).
- Đường hồi quy bình phương nhỏ nhất có hệ số góc \(r\frac{s_y}{s_x}\) và đi qua \((\bar x; \bar y)\); nó được suy ra bằng hai lần tối ưu một biến.
- Hồi quy về giá trị trung bình là một hệ quả toán học của \(\lvert r \rvert < 1\), không cần nguyên nhân nào.
- Tương quan không phải nhân quả: biến gây nhiễu, nhân quả ngược và trùng hợp đều tạo ra tương quan.
- Thí nghiệm ngẫu nhiên có đối chứng cắt đứt mọi biến gây nhiễu vì đồng xu độc lập với mọi thứ.
Bài tập¶
A. Tư duy¶
A1. Trong một khảo sát (giả định), những người đi ngủ mà vẫn mang giày thường thức dậy bị đau đầu. Có nên kết luận mang giày khi ngủ gây đau đầu? Vẽ một sơ đồ nhân quả hợp lý hơn.
Lời giải
Một giải thích tự nhiên hơn là có một biến gây nhiễu: những người về nhà trong tình trạng say rượu hay ngủ quên mà không tháo giày, và cũng chính rượu làm họ đau đầu khi thức dậy. Sơ đồ: "say rượu" có mũi tên tới "ngủ mang giày" và tới "đau đầu", không có mũi tên nào giữa hai cái sau. Muốn kiểm tra, có thể so những người cùng tình trạng uống rượu: nếu trong nhóm không uống, mang giày không đi với đau đầu nữa, giải thích bằng biến gây nhiễu được củng cố.
A2. "Những người dùng máy đo huyết áp tại nhà có huyết áp cao hơn trung bình." Máy đo làm tăng huyết áp chăng? Chỉ ra kiểu sai lầm.
Lời giải
Đây là nhân quả ngược: người có huyết áp cao, thường đã được bác sĩ dặn theo dõi, mới mua máy đo; huyết áp cao gây ra việc có máy đo, không phải ngược lại. Tương quan đối xứng nên không cho biết chiều của mũi tên.
A3. Sau một mùa giải xuất sắc, một cầu thủ thường chơi kém hơn ở mùa sau, và người ta đổ cho sự tự mãn. Giải thích một nguyên nhân thuần túy thống kê.
Lời giải
Thành tích một mùa là tổng của năng lực và may mắn. Một mùa xuất sắc thường là lúc cả hai cùng tốt; mùa sau năng lực còn đó nhưng may mắn thì trở về mức bình thường. Vì tương quan giữa thành tích hai mùa nhỏ hơn 1, dự đoán tốt nhất cho mùa sau gần trung bình hơn mùa trước: đó là hồi quy về giá trị trung bình, xảy ra dù cầu thủ không hề tự mãn.
A4. Vì sao việc chia người bệnh vào nhóm uống thuốc và nhóm đối chứng bằng cách tung đồng xu lại loại được cả những biến gây nhiễu mà người làm thí nghiệm không hề nghĩ tới?
Lời giải
Kết quả tung đồng xu độc lập với mọi đặc điểm của người bệnh, kể cả những đặc điểm chưa ai đo hay chưa ai biết tới. Vì thế mỗi đặc điểm có cùng phân phối ở hai nhóm, và khi hai nhóm đủ đông, theo luật số lớn, tỉ lệ người có đặc điểm ấy ở hai nhóm gần nhau. Khác biệt đáng kể duy nhất còn lại giữa hai nhóm là viên thuốc. Nếu để người bệnh hay bác sĩ tự chọn, việc chọn có thể phụ thuộc vào những đặc điểm ấy, và mũi tên từ biến gây nhiễu tới việc điều trị không bị cắt.
B. Tính toán¶
B1. Tính \(r\) và đường hồi quy cho năm cặp số \((1; 2)\), \((2; 4)\), \((3; 5)\), \((4; 4)\), \((5; 5)\).
Lời giải
\(\bar x = 3\), \(\bar y = 4\). Độ lệch của \(x\): \(-2, -1, 0, 1, 2\); của \(y\): \(-2, 0, 1, 0, 1\). \(S_{xy} = 4 + 0 + 0 + 0 + 2 = 6\), \(S_{xx} = 10\), \(S_{yy} = 4 + 0 + 1 + 0 + 1 = 6\). Vậy \(r = \frac{6}{\sqrt{60}} \approx 0{,}77\), \(b = \frac{6}{10} = 0{,}6\), \(a = 4 - 0{,}6 \cdot 3 = 2{,}2\): đường hồi quy \(\hat y = 2{,}2 + 0{,}6x\).
B2. Trong Ví dụ 1, đo thời gian học bằng phút và chấm điểm trên thang 100 (nhân điểm với 10). Hệ số tương quan và hệ số góc của đường hồi quy thay đổi thế nào?
Lời giải
\(x' = 60x\) và \(y' = 10y\) với các hệ số dương, nên theo Mệnh đề 5, \(r\) vẫn là \(0{,}9\). Hệ số góc \(b = r\frac{s_y}{s_x}\) thì đổi: \(s_y\) nhân 10, \(s_x\) nhân 60, nên \(b' = 0{,}9 \cdot \frac{10}{60} = 0{,}15\) điểm (thang 100) cho mỗi phút học. Hệ số góc mang đơn vị, \(r\) thì không.
B3. Với dữ liệu Ví dụ 1, tìm đường hồi quy của \(x\) theo \(y\), tức đường \(\hat x = a' + b'y\) làm tổng bình phương khoảng cách theo chiều ngang nhỏ nhất. Vẽ nó trên cùng hệ trục với đường \(\hat y = 3{,}3 + 0{,}9x\): hai đường có trùng nhau không?
Lời giải
Đổi vai trò \(x\) và \(y\): \(b' = \frac{S_{xy}}{S_{yy}} = \frac{9}{10} = 0{,}9\), \(a' = \bar x - b'\bar y = 3 - 5{,}4 = -2{,}4\), nên \(\hat x = -2{,}4 + 0{,}9y\). Viết theo \(y\): \(y = \frac{x + 2{,}4}{0{,}9}\), có hệ số góc \(\frac{1}{0{,}9} \approx 1{,}11\), khác \(0{,}9\). Hai đường cùng đi qua \((3; 6)\) nhưng không trùng nhau; chúng chỉ trùng nhau khi \(\lvert r \rvert = 1\). Dự đoán \(y\) từ \(x\) và dự đoán \(x\) từ \(y\) là hai bài toán khác nhau.
B4. Thêm cặp \((10; 0)\) vào năm cặp số của Ví dụ 1. Tính lại \(r\), dùng các công thức \(S_{xy} = \sum x_i y_i - n\bar x \bar y\), \(S_{xx} = \sum x_i^2 - n\bar x^2\), \(S_{yy} = \sum y_i^2 - n\bar y^2\).
Lời giải
Bây giờ \(n = 6\), \(\bar x = \frac{25}{6}\), \(\bar y = 5\). \(\sum x_i y_i = 4 + 10 + 21 + 24 + 40 + 0 = 99\), nên \(S_{xy} = 99 - 6 \cdot \frac{25}{6} \cdot 5 = -26\). \(\sum x_i^2 = 155\), nên \(S_{xx} = 155 - 6 \cdot \frac{625}{36} = \frac{305}{6} \approx 50{,}83\). \(\sum y_i^2 = 190\), nên \(S_{yy} = 190 - 150 = 40\). Vậy \(r = \frac{-26}{\sqrt{50{,}83 \cdot 40}} \approx -0{,}58\). Một điểm đổi quan hệ cùng chiều rất chặt thành một quan hệ ngược chiều.
B5. Điểm hai kỳ thi có cùng trung bình 70, cùng độ lệch chuẩn 10, và hệ số tương quan \(0{,}6\) (giả định). Dự đoán điểm kỳ thi thứ hai của một người được 90 điểm, và của một người được 50 điểm ở kỳ thi thứ nhất.
Lời giải
90 điểm có \(z = 2\), dự đoán \(\hat z = 0{,}6 \cdot 2 = 1{,}2\), tức \(70 + 12 = 82\) điểm. 50 điểm có \(z = -2\), dự đoán \(\hat z = -1{,}2\), tức \(58\) điểm. Cả hai dự đoán đều gần trung bình hơn điểm lần đầu.
B6. Kiểm lại công thức giá trị nhỏ nhất \(S_{yy}(1 - r^2)\) của Định lý 3 cho dữ liệu bài B1, bằng cách tính trực tiếp các phần dư.
Lời giải
Với \(\hat y = 2{,}2 + 0{,}6x\): các giá trị dự đoán là \(2{,}8\); \(3{,}4\); \(4\); \(4{,}6\); \(5{,}2\), và các phần dư là \(-0{,}8\); \(0{,}6\); \(1\); \(-0{,}6\); \(-0{,}2\). Tổng bình phương: \(0{,}64 + 0{,}36 + 1 + 0{,}36 + 0{,}04 = 2{,}4\). Công thức: \(S_{yy}(1 - r^2) = 6\left(1 - \frac{36}{60}\right) = 6 \cdot 0{,}4 = 2{,}4\). Khớp.
B7. Gọi \(X\) là mặt của xúc xắc thứ nhất và \(S\) là tổng hai xúc xắc (Chương 44). Tính \(\mathrm{Cov}(X, S)\) và hệ số tương quan giữa \(X\) và \(S\).
Lời giải
Theo bài B10 Chương 44, \(E[XS] = \frac{329}{12}\), nên \(\mathrm{Cov}(X, S) = E[XS] - E[X]\,E[S] = \frac{329}{12} - \frac{294}{12} = \frac{35}{12}\), đúng bằng \(\mathrm{Var}(X)\). Hệ số tương quan là \(\frac{35/12}{\sqrt{35/12} \cdot \sqrt{35/6}} = \frac{1}{\sqrt2} \approx 0{,}71\).
B8. Một thí nghiệm ngẫu nhiên (giả định) chia 200 người bệnh làm hai nhóm 100 người bằng cách tung đồng xu: 70 người nhóm uống thuốc và 55 người nhóm đối chứng khỏi bệnh. Ước lượng độ lệch chuẩn của hiệu hai tỉ lệ khỏi bệnh như ở Chương 46 (hai nhóm độc lập, phương sai cộng lại), rồi cho biết hiệu quan sát được có vượt hai độ lệch chuẩn không.
Lời giải
Hiệu là \(0{,}70 - 0{,}55 = 0{,}15\). Phương sai của mỗi tỉ lệ là \(\frac{\hat p(1 - \hat p)}{100}\); hai nhóm độc lập nên phương sai của hiệu là \(\frac{0{,}7 \cdot 0{,}3}{100} + \frac{0{,}55 \cdot 0{,}45}{100} = 0{,}0021 + 0{,}002475 = 0{,}004575\), độ lệch chuẩn khoảng \(0{,}068\). Hai độ lệch chuẩn là khoảng \(0{,}135\), nhỏ hơn \(0{,}15\): hiệu quan sát được khó giải thích bằng may rủi của việc chia nhóm, và vì nhóm được chia ngẫu nhiên, nó là bằng chứng cho tác dụng của thuốc.
C. Phản ví dụ và chứng minh¶
C1. Chứng minh rằng với đường hồi quy, tổng các phần dư bằng 0 và \(\sum e_i (x_i - \bar x) = 0\).
Lời giải
Với \(a = \bar y - b\bar x\), phần dư là \(e_i = v_i - b u_i\) (ký hiệu như chứng minh Định lý 3). Vì \(\sum u_i = \sum v_i = 0\), \(\sum e_i = 0 - b \cdot 0 = 0\). Và \(\sum e_i u_i = S_{xy} - b S_{xx} = S_{xy} - \frac{S_{xy}}{S_{xx}} S_{xx} = 0\). \(\square\) Phần dư không còn chứa chút xu hướng tuyến tính nào theo \(x\): đường hồi quy đã lấy hết.
C2. Tìm ba đại lượng \(X\), \(Y\), \(Z\) sao cho \(X\) tương quan dương với \(Y\), \(Y\) tương quan dương với \(Z\), nhưng \(X\) tương quan âm với \(Z\). Điều này nói gì về "đi cùng nhau"?
Lời giải
Lấy ba bộ số \((x; y; z)\): \((1; 0; -1)\), \((-1; -1; 0)\), \((0; 1; 1)\), với \(y = x + z\). Mọi trung bình bằng 0. \(S_{xx} = S_{zz} = 2\), \(S_{yy} = 2\), \(S_{xz} = -1 + 0 + 0 = -1\), \(S_{xy} = 0 + 1 + 0 = 1\), \(S_{yz} = 0 + 0 + 1 = 1\). Vậy \(r_{XY} = r_{YZ} = \frac12\) nhưng \(r_{XZ} = -\frac12\). \(\square\) Tương quan không có tính bắc cầu: \(Y\) đi cùng \(X\) và đi cùng \(Z\) vì \(Y\) chứa cả hai, nhưng \(X\) và \(Z\) thì ngược chiều nhau.
C3. Điểm hai bài kiểm tra của một học sinh là \(X = T + E_1\) và \(Y = T + E_2\), trong đó \(T\) là năng lực, \(E_1\), \(E_2\) là may rủi, ba biến độc lập, cùng phương sai 1. Chứng minh hệ số tương quan giữa \(X\) và \(Y\) là \(\frac12\), dù năng lực không đổi giữa hai bài.
Lời giải
Theo Định lý 6 Chương 44, \(\mathrm{Var}(X) = \mathrm{Var}(T) + \mathrm{Var}(E_1) = 2\), tương tự \(\mathrm{Var}(Y) = 2\). Khai triển và dùng độc lập: \(\mathrm{Cov}(X, Y) = \mathrm{Cov}(T, T) + \mathrm{Cov}(T, E_2) + \mathrm{Cov}(E_1, T) + \mathrm{Cov}(E_1, E_2) = 1 + 0 + 0 + 0 = 1\). Vậy hệ số tương quan là \(\frac{1}{\sqrt2 \cdot \sqrt2} = \frac12\). \(\square\) Hồi quy về giá trị trung bình với \(r = \frac12\) như Ví dụ 4 vì thế xảy ra mà không có gì thay đổi ở học sinh: phần may rủi của lần một không lặp lại ở lần hai.
Câu hỏi để ngỏ¶
Đã biết tương quan không phải nhân quả, vậy mà vẫn bị số liệu đánh lừa. Những cái bẫy nào khiến dữ liệu thật dẫn tới kết luận sai, và làm sao nhận ra chúng?