4 行ベクトルが線形従属の場合

次は、$A$ の行ベクトル $\overrightarrow{\hat{\alpha}}_1,\ldots, \overrightarrow{\hat{\alpha}}_m$ が線形従属の場合を考える。 結論から言えば、この場合は $y_1,\ldots,y_m$ は独立にはならない。 本節はそのこと、すなわち (10) が 成り立つとして矛盾を示す。

まず、すべての $i$ に対し $\overrightarrow{\hat{\alpha}}_i\neq\overrightarrow{0}$ と してよいことを示す。それは、もしある $i$ に対して $\overrightarrow{\hat{\alpha}}_i=\overrightarrow{0}$ ならば $y_i=b_i$ (定数) となるから、 $\mathrm{Prob}\{y_i=b_i\}=1$ となって $y_i$ が連続確率変数ではないことに なるからである。

$\langle{V}\rangle$ を $V$ のベクトルが張るベクトル空間、 すなわち $V$ の有限個のベクトルの線形結合の全体 ($V$ を含む最小の部分空間) とする。 $V_1 = \langle\overrightarrow{\hat{\alpha}}_1,\ldots,\overrightarrow{\hat{\alpha}}_m\rangle$ の 次元を $\ell=\dim V_1$ とすると、線形従属の仮定から $\ell<m$ で、 $\overrightarrow{\hat{\alpha}}_1,\ldots, \overrightarrow{\hat{\alpha}}_m$ から 線形独立な $\ell$ 個のベクトルを取ることができる。 $y_i$ の添字の順序を変えることで、その $\ell$ 個のベクトルを $\overrightarrow{\hat{\alpha}}_1,\ldots,\overrightarrow{\hat{\alpha}}_\ell$ とする ことができ、残りの $\overrightarrow{\hat{\alpha}}_i$ ($\ell<i\leq m$) は すべて $\overrightarrow{\hat{\alpha}}_1,\ldots,\overrightarrow{\hat{\alpha}}_\ell$ の 線形結合として書ける、すなわち

  $$\overrightarrow{\hat{\alpha}}_i\in \langle\overrightarrow{\hat{... ..._1,\ldots,\overrightarrow{\hat{\alpha}}_\ell\rangle \hspace{1zw}(\ell<i\leq m)$$ (17)

となる。 (17) より、例えば $\overrightarrow{\hat{\alpha}}_{\ell+1}$ は、

  $$\overrightarrow{\hat{\alpha}}_{\ell+1} =\sum_{i=1}^\ell \xi_i\o... ...ightarrow{\hat{\alpha}}_i \hspace{1zw}(\xi_1,\ldots,\xi_\ell)\neq (0,\ldots,0)$$ (18)

の形に書ける。

まず、(10) が成り立つとき、 その $y_i\leq t_i$ のいくつかを $y_i>t_i$ に 変えることができることに注意する。 例えば (10) で $t_m\rightarrow\infty$ とすると

$${\mathrm{Prob}\{y_1\leq t_1,\ldots,y_{m-1}\leq t_{m-1}\}}$$

$$= \mathrm{Prob}\{y_1\leq t_1\}\times\cdots\times\mathrm{Prob}\{y_{m-1}\leq t_{m-1}\}$$ (19)

となり、(19) から (10) を引けば、

$${\mathrm{Prob}\{y_1\leq t_1,\ldots,y_{m-1}\leq t_{m-1},y_m>t_m\}}$$

$$= \mathrm{Prob}\{y_1\leq t_1\}\times\cdots\times\mathrm{Prob}\{y_{m-1}\leq t_{m-1}\} \times\mathrm{Prob}\{y_m>t_m\}$$ (20)

となる。

(18) の係数の $\xi_i$ を正のもの、負のもの、 0 のものに分類する。 $y_1,\ldots,y_\ell$ の順序を交換すれば、 $\xi_i$ の順序が変わるので、

  $$\xi_i<0 \hspace{0.5zw}(i\leq k_1), \hspace{1zw}\xi_i>0 \hspace{0.5zw}(k_1< i\leq k_2), \hspace{1zw}\xi_i=0 \hspace{0.5zw}(k_2< i\leq\ell)$$ (21)

となるようにする。ただし、$\xi_i$ はすべてが 0 にはならないから、 $1\leq k_2\leq\ell$ である。

これに合わせて、(10) の不等式 のうち $i\leq k_1$ の部分を逆向きに変え、 さらに $k_2< i\leq\ell$ の部分、 および $\ell+1<i\leq m$ の部分は $t_i\rightarrow\infty$ と することでその不等式を消して、

$${\mathrm{Prob}\{y_1>t_1,\ldots,y_{k_1}>t_{k_1}, y_{k_1+1}\leq t_{k_1+1},\ldots,y_{k_2}\leq t_{k_2}, y_{\ell+1}\leq t_{\ell+1}\}}$$

$$= \mathrm{Prob}\{y_1>t_1\}\times\cdots\times\mathrm{Prob}\{y_{k_1}>t_{k_1}\}$$

$$\times\mathrm{Prob}\{y_{k_1+1}\leq t_{k_1+1}\}\times\cdots \times... ...m{Prob}\{y_{k_2}\leq t_{k_2}\} \times\mathrm{Prob}\{y_{\ell+1}\leq t_{\ell+1}\}$$ (22)

とする。 (18) より、

$$y_{\ell+1} = \overrightarrow{\hat{\alpha}}_{\ell+1}\overrightarrow{x}+b_{\ell+... ..._i\overrightarrow{x}+b_{\ell+1} \ =\ \sum_{i=1}^{k_2}\xi_i(y_i-b_i)+b_{\ell+1}$$

$$= \sum_{i=1}^{k_2}\xi_iy_i+b_0 \hspace{1zw}\left(b_0=b_{\ell+1}-\sum_{i=1}^{k_2}\xi_i b_i\right)$$ (23)

となる。 よって、 $t_1,\ldots,t_{k_2},t_{\ell+1}$ を、

  $$\sum_{i=1}^{k_2}\xi_it_i+b_0\leq t_{\ell+1}$$ (24)

を満たすように取ると、

$$y_1>t_1,\ldots,y_{k_1}>t_{k_1}, y_{k_1+1}\leq t_{k_1+1},\ldots,y_{k_2}\leq t_{k_2}$$

と、(23), (24) から 自然に $y_{\ell+1}\leq t_{\ell+1}$ が従う。 よって、(24) の場合、 (22) の左辺からは $y_{\ell+1}$ に関する ものが消える。 $y_1,\ldots,y_m$ の独立性の仮定から、 その左辺は $y_1,\ldots,y_{k_2}$ に関する確率の積となり、よって

$$\begin{eqnarray*}\lefteqn{\mathrm{Prob}\{y_1>t_1\}\times\cdots \times\mathrm{Pr... ...}\leq t_{k_2}\} \times\mathrm{Prob}\{y_{\ell+1}\leq t_{\ell+1}\}\end{eqnarray*}$$

となり、各 $y_i$ は正規分布に従うのでこれらはいずれも 0 ではなく、 よって

$$\mathrm{Prob}\{y_{\ell+1}\leq t_{\ell+1}\}=1$$

が成り立つことになり、 これは $\overrightarrow{\hat{\alpha}}_{\ell+1}\neq\overrightarrow{0}$ では 起こりえないので矛盾となる。

結果として、$A$ の行ベクトルが線形従属の場合は、 $y_1,\ldots,y_m$ は独立にはならないことが示された。