(統計)最佳線性預測,線性迴歸
設一 joint p.d.f. $f(x,y)$ ,且已知 $X 平均數, \mu_x$,變異數,$0\lt\sigma_x^2\lt \infty$,$Y 平均數, \mu_y$,變異數,$0\lt\sigma_y^2\lt \infty$,相關係數$\rho$,則最佳線性預測線 : $$E(Y\vert X)=\mu_y+\rho\frac{\sigma_y}{\sigma_x}(X-\mu_x)$$
假設 $E(Y\vert X)=\cfrac{\displaystyle\int_{-\infty}^{\infty}yf(x,y)dy}{f_1(x)}=a+bx$,即$\displaystyle\int_{-\infty}^{\infty}yf(x,y)dy=(a+bx)f_1(x)\cdots(1)$ ,$\displaystyle{\int_{-\infty}^{\infty}\int_{-\infty}^{\infty}yf(x,y)dydx}=\displaystyle\int_{-\infty}^{\infty}(a+bx)f_1(x)dx$
上式等於 $E(Y)=a+bE(X)$,$\mu_y=a+b\mu_x$,(1)式乘$x$再對$x$積分,可得$E(XY)=aE(X)+bE(X^2)$,$\rho\sigma_x\sigma_y+\mu_x\mu_y$,解$a,b$可得,
$$\begin{align}a&=\mu_y-\rho\cfrac{\sigma_y}{\sigma_x}\mu_x\\b&=\rho\cfrac{\sigma_y}{\sigma_x}\end{align}$$
最小平方法
\begin{array}{l}
E(Y)=a+bE(X) \\ E(XY)=aE(X)+bE(X^2)
\end{array}
\right.$
雙重期望值
設$E(Y|X)=a+bX$$E_X[E_Y(Y|X)]=E(Y)=a+bE(X)$ ,$a=E(Y)-bE(X)$
$E(XY)=E_X[E_Y(XY|X)]=E_X[XE_Y(Y|X)]=E_X[X(a+bX)]
=E_X[aX+bX^2]=aE(X)+bE(X^2)=[E(Y)-bE(X)]E(X)+bE(X^2)
=E(X)E(Y)-b[E(X)]^2+bE(X^2)$
$\implies cov(XY)=bV(X)$,$b=\rho\cfrac{\sigma_y}{\sigma_x}$
附錄
附錄 A 集合 (APPENDIX A SETS) 一個 集合 (set) 是一些被稱為該集合之 元素 (elements) 的物件的聚集。如果 x 是集合 A 的一個元素,那麼我們寫作 x \in A ;否則,我們寫作 x \notin A 。例如,如果 Z...
-
廠商 車 型 名 稱 最大馬力 轉速 排氣量 kW rpm 摩特動力 摩特動力 J-BUBU J3-110BIB 113.5c.c. CVT 速克達 7 8500 113.5 摩特動力 摩特動力 J-BUBU J3-110AIB ...
-
車型名稱 最大馬力(kW) 最大馬力轉速(rpm) Tesla Model 3 E1R A1 5D 190 5000 Tesla Model 3 E1R 3D5 A1 5D 192 5000 Tesla Model 3 E3DP A1 5...







