4. 変数変換と多変量正規分布

対数を取った測定値や比率を解析するとき、密度は単に変数名を置き換えるだけでは変換できません。確率の総量を保つ面積・体積の補正が必要です。単調な変換 $Y=g(X)$ なら

$$f_Y(y)=f_X(g^{-1}(y))\left|\frac{d}{dy}g^{-1}(y)\right|.$$

$X\sim U(0,1),Y=-\log X$ なら逆変換 $x=e^{-y}$ の微分の絶対値は $e^{-y}$。したがって $f_Y(y)=e^{-y}$、$y>0$ となり、指数乱数を作れます。非単調変換では各逆像からの寄与を足します。$Y=X^2$ なら、正と負の平方根を忘れないようにします。

独立な $X\sim\mathrm{Gamma}(a,1),Y\sim\mathrm{Gamma}(b,1)$ に対し、$S=X+Y,R=X/(X+Y)$ とします。逆変換は $X=RS,Y=(1-R)S$、ヤコビアンの絶対値は $S$。

$$f_{S,R}(s,r)=\frac{s^{a+b-1}e^{-s}}{\Gamma(a+b)} \frac{r^{a-1}(1-r)^{b-1}}{B(a,b)}.$$

支持域も $s>0,0<r<1$ と直積に分かれるので、$S$ と $R$ は独立です。密度の積だけでなく支持域まで確認するのが論述の要点です。

$p$ 次元の密度は、正定値の共分散行列 $\Sigma$ に対して

$$f(\boldsymbol x)=\frac{\exp\{-\tfrac12(\boldsymbol x-\boldsymbol\mu)^T\Sigma^{-1}(\boldsymbol x-\boldsymbol\mu)\}} {(2\pi)^{p/2}|\Sigma|^{1/2}}.$$

$A\boldsymbol X+\boldsymbol b$ の平均は $A\boldsymbol\mu+\boldsymbol b$、共分散は $A\Sigma A^T$。線形結合は再び正規で、正規ベクトルの無相関な成分は独立です。一般の分布にはこの結論を広げられません。

標準化した2変量正規で相関0.6なら、$X\mid Y=y\sim N(0.6y,0.64)$。$Y=2$ のとき予測平均は1.2、条件付き標準偏差は0.8です。極端な観測から予測されるもう一方は平均に近づき、これが平均への回帰です。

3変数の偏相関は

$$r_{12\cdot3}=\frac{r_{12}-r_{13}r_{23}}{\sqrt{(1-r_{13}^2)(1-r_{23}^2)}}.$$

それぞれから第3変数への線形回帰の影響を引いた残差間相関です。調整しただけで因果効果を識別したことにはなりません。

$\operatorname{Var}(X)=4,\operatorname{Var}(Y)=9,\operatorname{Cov}(X,Y)=1$ のとき $\operatorname{Var}(2X-Y)$ は？

解答・解説

$4\times4+9-4\times1=21$。係数の符号を含め、共分散項 $2ab\operatorname{Cov}(X,Y)$ を使います。