axjack's blog

### axjack is said to be an abbreviation for An eXistent JApanese Cool Klutz ###

確率変数の変数変換:一様分布に従う2 つの確率変数の和

理論編

確率変数 X,Y の同時確率密度関数(joint pdf)を f_{X,Y}(x,y)とする。この時、 X,Y


\displaystyle \begin{bmatrix}
Z  \\
W
\end{bmatrix}
= \begin{bmatrix}
u(X,Y)\\
v(X,Y)
\end{bmatrix}

と変数変換(change of variables)することを考える。ただし、 u,vには逆変換が存在しそれを、


\displaystyle \begin{bmatrix}
X \\
Y
\end{bmatrix}
= \begin{bmatrix}
s(Z,W)\\
t(Z,W)
 \end{bmatrix}

と表す。ここでヤコビアン J(X,Y)

 \displaystyle
J(X,Y) = \det \left(  \begin{bmatrix}
\frac{\partial Z}{ \partial X} & \frac{\partial Z}{ \partial Y} \\
\frac{\partial W}{ \partial X} & \frac{\partial W}{\partial Y} 
\end{bmatrix}
\right)

とすると、変数変換後の同時確率密度関数 f_{Z,W}(z,w)は、

 \displaystyle

f_{Z,W}(z,w) = f_{X,Y} ( x, y ) / | J(X,Y) | \\
= f_{X,Y}( s(z,w), t(z,w) ) / | J(X,Y)|

で表される(ここで |\cdot|は絶対値を表す)。

また、確率変数 X,Yが独立でそれぞれの確率密度関数 f_X(x), f_Y(y)で与えられていれば、

 \displaystyle
f_{Z,W}(z,w) = f_{X,Y} ( x, y ) / | J(X,Y) | \\
= f_{X,Y}( s(z,w), t(z,w) ) / | J(X,Y)|  \\
= f_X(s(z,w)) f_Y( t(z,w) )/ | J(X,Y) |

となる。

さらに、同時確率密度関数 f_{Z,W}(z,w)w積分消去(integrate out, marginal, collapse)することで確率変数Zの周辺確率密度関数(marginal pdf)を求めることができる。すなわち、

 \displaystyle
f_Z(z) = ∫_{-\infty}^{\infty} f_{Z,W}(z,w) dw = ∫_{-\infty}^{\infty} \frac{1}{ |J(X,Y)| }f_{X,Y}( s(z,w), t(z,w) )dw

となる。

例:一様分布に従う2 つの確率変数の和

確率変数X,Yはそれぞれ独立に一様分布 \text{Unif}(0,1)に従うとする。確率密度関数 f_X(x), f_Y(y)

 \displaystyle

f(t) = \begin{cases}
1 \quad \text{if} \quad 0 \lt t \lt 1 \\
0 \quad \text{otherwise} 

\end{cases}

を用いて、 f_X(x) = f(x)および f_Y(y) = f(y)で与えられる。

確率変数の変換

確率変数Z,W Z = X+Y, W = Yと変換する。このとき X = Z - W, Y = Wである。

またヤコビアン J(X,Y) は、
 J(X,Y) = 
det \begin{pmatrix}  
 \frac{∂Z}{∂X}  & \frac{∂Z}{∂Y} \\
 \frac{∂W}{∂X}  & \frac{∂W}{∂Y} 
\end{pmatrix} 
= det \begin{pmatrix}  
 \frac{∂(X+Y)}{∂X}  & \frac{∂(X+Y)}{∂Y} \\
 \frac{∂Y}{∂X}  & \frac{∂Y}{∂Y} 
\end{pmatrix}  \\
= det \begin{pmatrix} 
1 & 1 \\
0 & 1
\end{pmatrix} 
= det (1) = 1
である。

同時確率密度関数

独立なので f_{X,Y}(x,y) = f_X(x) f_Y(y) = f(x)f(y) である従って、 f_{Z,W}(z,w)

 f_{Z,W}(z,w) = f_{X,Y}(x,y)/|J(X,Y)| = f(x)f(y)/1 = f(x)f(y) = f(z-w)f(w)

となる。

確率変数のとりうる領域

与えられた情報からまとめると、

  •  0 \lt X \lt 1
  •  0 \lt Y \lt 1
  •  X = Z - Wより 0 \lt Z-W \lt 1
  •  Y = Wより 0 \lt W \lt 1

なる不等式を得る。従って、 z,wに関する領域を書くと下記となる。

この図をw軸の視点で見ると、

  •  0 \lt z \lt 1のとき 0 \lt w \lt z
  •  1 \lt z \lt 2のとき z-1 \lt w \lt 1

となる。

領域の書き方補足
  • 周辺確率密度関数にてw積分消去することを念頭に置いて、zを固定したときのwを変数とする領域、をイメージすると良い。
  •  0 \lt z-w \lt 1 z-w = kとし、 z = k + w の直線を 0 \lt k \lt 1で動かすことで得られる。
  • w軸と平行な線分が、zに依存しつつ線分の長さを変えながら動いた結果が水色の領域、というイメージ。


周辺確率密度関数

和の分布なのでZ確率密度関数を求めれば良い。従ってf_{Z,W}(z,w) w積分消去する。ここで、積分範囲を明示せずに書くと、

 \displaystyle f_Z(z) = ∫ f_{Z,W}(z,w)dw = ∫f(z - w)f(w)dw = ∫f(z-w)dw
となる。
積分範囲はzに依存しているので、2通りに分けて書く。

  •  0 \lt z \lt 1のとき 0 \lt w \lt z

 \displaystyle f_Z(z) = ∫_{0}^{z} f(z-w) dw = ∫_{0}^{z} 1 dw  =  \Bigl [ w \Bigr]_0^z = z-0 = z.

  •  1 \lt z \lt 2のとき z-1 \lt w \lt 1

 \displaystyle f_Z(z) = ∫_{z-1}^{1} f(z-w) dw = ∫_{z-1}^{1} 1 dw  =  \Bigl [ w \Bigr]_{z-1}^1 = 1 - (z-1)  = 2 - z .

となる。まとめると、

 \displaystyle 
f_Z(z) = \begin{cases} 
z \quad \text{if} \quad  0 \lt z \lt 1  \\
2 - z \quad \text{if} \quad 1 \lt z \lt 2
\end{cases}
となる。

axjack is said to be an abbreviation for An eXistent JApanese Cool Klutz.