(PDF ファイル: corel1.pdf)

4 回転不変性について

これまでにあげた疑問を考えていくが、 まずは問題 2 としてあげた 相関係数や回帰直線の回転不変性について考える。

データ $(x_j,y_j)$ を、原点の周りに $\theta$ 回転したデータを $(x'_j,y'_j)$ とする。すなわち

$$\left[\begin{array}{c}x'_j\\ y'_j\end{array}\right] = A(\the... ...\theta &-\sin\theta\\ \sin\theta &\cos\theta\end{array}\right]$$

とすれば、

$$\left[\begin{array}{c}\overline{x'}\,\\ \overline{y'}\,\end{... ...y}{c}x_j-\overline{x}\,\\ y_j-\overline{y}\,\end{array}\right]$$

なので、

$$\begin{eqnarray*}S_{x'x'} & = & \sum_j (x'_j-\overline{x'}\,)^2 = \sum_j \{(... ...{xx}\sin^2\theta+2S_{xy}\cos\theta\sin\theta +S_{yy}\cos^2\theta\end{eqnarray*}$$

となる。この式から、$r$ が $\theta$ に関して不変でないことはすぐに分かる。

しかし、回転不変な式もいくつか容易に見つかる。例えば

$$S_{x'x'}+S_{y'y'} = S_{xx}+S_{yy}$$ (2)

であるし、また、

$$\begin{eqnarray*}S_{x'x'}-S_{y'y'} & = & (S_{xx}-S_{yy})(\cos^2\theta-\sin^2\t... ...\ 2S_{x'y'} & = & (S_{xx}-S_{yy})\sin2\theta+2S_{xy}\cos2\theta\end{eqnarray*}$$

より、

$$(S_{x'x'}-S_{y'y'})^2+4S_{x'y'}^2 = (S_{xx}-S_{yy})^2+4S_{xy}^2$$ (3)

のような不変量も得られるし、これら 2 つを組み合わせて ( $((\ref{eq:rotationinv:2})-(\ref{eq:rotationinv:1})^2)/4$)、

$$S_{x'y'}^2-S_{x'x'}S_{y'y'} = S_{xy}^2-S_{xx}S_{yy}$$ (4)

のような不変量も得られる。

また、この回転されたデータに対する回帰直線は

$$y'-\overline{y'}\,=a'(x'-\overline{x'}\,) = \frac{S_{x'y'}}{S_{x'x'}}(x'-\overline{x'}\,)$$

であり、これは

$$\left[\begin{array}{c}x'-\overline{x'}\,\\ y'-\overline{y'}\... ...array}\right] =t\left[\begin{array}{c}1\\ a'\end{array}\right]$$

とパラメータ表示される。よって、この両辺に $A(-\theta)$ をかけて この直線を原点の周りに $(-\theta)$ 回転すると

$$\begin{eqnarray*}&& A(-\theta)\left[\begin{array}{c}x'-\overline{x'}\,\\ y'-\ove... ...a\\ -S_{x'x'}\sin\theta+S_{x'y'}\cos\theta\end{array}\right]\\ \end{eqnarray*}$$

となる。ここで、

$$\begin{eqnarray*}\lefteqn{S_{x'x'}\cos\theta+S_{x'y'}\sin\theta}\\ & = & (S_{x... ...sin\theta\}\cos\theta\\ & = & S_{xy}\cos\theta-S_{yy}\sin\theta\end{eqnarray*}$$

となるので、この直線の傾き $a''(\theta)$ は

$$a''(\theta) = \frac{-S_{x'x'}\sin\theta+S_{x'y'}\cos\theta}%... ...os\theta-S_{yy}\sin\theta}{S_{xx}\cos\theta -S_{xy}\sin\theta}$$

となる。 これは $\theta\neq 0$ であればもちろん通常の回帰直線の傾き $a=S_{xy}/S_{xx}$ とは一致しない。 つまり、回帰直線も回転不変性を持たないことがわかる。

なお、この $a''(\theta)$ の、 $\theta=90^\circ$ のときの値は、

$(x_j,y_j)$ を $90^\circ$ 回したデータに対する回帰直線を $-90^\circ$ 回した直線の傾き

を意味するが、$y$ 軸に関して折り返して考えれば容易に分かるが、 その傾きは、3 節でも言及した、

$(y_j,x_j)$ に対する回帰直線を、$y=x$ に関して対称に折り返したものの傾き

に等しい。つまり、そのような直線を表す式は

$$y-\overline{y}\,=\tilde{a}(x-\overline{x}\,) = \frac{S_{yy}}{S_{xy}}(x-\overline{x}\,)$$

であることがわかる。この直線も元の回帰直線とは一致しない。