この記事は、「日曜数学Advent Calendar 2019」の15日目の記事です。

adventar.org

昨日14日目の記事は龍孫江さんの「あるUFD上の形式冪級数環について」でした。

blog.livedoor.jp

本文

今年は、11月に受けた統計検定１級の問題を紹介してみようかと思います。

統計の基礎的な知識（期待値と分散の計算方法のみ）は必要なものの、「そらあんた線形代数ですやん」と言いそうになる問題がありました。

以下の「経緯」については、自分が統計に手を染めてしまった経緯を書いているだけなので、特に読まなくて大丈夫です。

経緯

昨年度は、Deep Learningに手を出し、東大の松尾研の講座を修了しました。 deeplearning.jp

個人的な最終目標は、「特許請求の範囲に基づく権利範囲の正確な認識を機械的に行う」という感じなのですが、自然言語の意味理解に迫る話なので、まあそれは難し過ぎるということで保留にしています。大量の連続量データの雑なクラスタリングにはDeep Learningが向いているのですが、特許文献のような文書形式も手続きもルール化されたものを扱うなら、まずは統計解析から始めたらええやんかということで、今年の9月頃から統計に手を染め始めました。

統計の勉強をどのように行うのか迷いましたが、根っからの受験屋タイプの自分には問題を解いて理解するのが一番向いているということで、小寺平治の数理統計や、すうがくぶんかさんの個人指導で統計検定１級対策の問題を解いたりしていました。

www.kyoritsu-pub.co.jp

https://sugakubunka.com/toukei-kentei_seminar-1/

まあ、そんなことより、今年の問題を見ていきましょう。

2019年統計検定１級統計応用理工学第４問

問題については、もう少ししたら以下の公式サイトにアップされると思います。

www.toukei-kentei.jp

時系列データ $( \ldots , X_{-1} , X_0 , X_1 , \ldots , X_n , \ldots )$ は一次の自己回帰（ $AR(1)$ ）モデル

$X_t = \phi X_{t-1} + \epsilon_t$ ( $t= \ldots , -1, 0. 1, \ldots$ ) (1)
に従うとする。ここで $\epsilon_t$ は互いに独立に $N ( 0, \sigma ^2 )$ に従う確率変動項であり、定常性の条件 $| \phi |$ < 1を仮定する。 $(X_1, \ldots , X_n)$ につき以下の各問に答えよ。

問題[1]

モデル(1)における $(X_1, \ldots , X_n)$ の自己共分散行列 $T= { \tau_{ij} }$ の各成分は

$\tau_{i j} = \frac{\sigma ^2}{1-\phi ^2} \phi^{|i-j|}$ $(i,j=1, \ldots , n)$

で与えられ、自己相関行列は $R={ \rho_{ij} } = { \phi^{|i-j|} }$ となることを示せ

[1]の回答

(1)の期待値をとると、 $\epsilon_t ~ N (0, \sigma^2)$ であることより、

$E [ X_t ] = E [ \phi X_{t-1} ] + E [ \epsilon_t ] = \phi E [ X_{t-1} ]$ となるが、 $\phi \ne 1$ なので $E [ X_t ] = E [ X_{t-1} ] = 0$ である。

ところで、 $E [ X_t^2 ] = E [ \phi^2 X_{t-1}^2 + 2 \phi X_{t-1} \epsilon_t + \epsilon_t^2 ] = \phi E [X_{t-1}^2 ] + \sigma^2$ なので、 $E [ X_t^2 ] = E [ X_{t-1}^2 ] = V$ とおくと、 $V = \phi^2 V + \sigma^2$ となり、 $V= \frac{\sigma^2}{1-\phi^2}$ となる。

ここで、 $i \le j$ のとき、

$\tau_{ij} = E[ X_i X_j ] - E[ X_i ] E [ X_j ]= E[ X_i X_j ]$ となり、ここで(1)より、
$= E[ X_i ( \phi X_{j-1} + \epsilon_t ] = \phi E [ X_i X_{j-1}] + E [ X_i \epsilon_t ]= \phi E [ X_i X_{j-1}] = \phi^{j-i} E [ X_i^2] = \frac{\sigma^2}{1-\phi^2} \phi^{j-i}$ となる。

さらに、i>jも同様に、 $\tau_{ij} = \frac{\sigma^2}{1-\phi^2} \phi^{i-j}$ となる。

よって、 $\tau_{ij} = \frac{\sigma^2}{1-\phi^2} \phi^{|i-j|}$ であり、 $\rho_{ij} = \frac{\tau_{ij}}{\sqrt{V} \sqrt{V}}=\phi^{|i-j|}$ である。

問題[2]

n次対称行列 $A = \{ a_{ij} \}$ を

とする。たとえば $n=4$ では

である。一般の $n$ および上問[1]の行列Tに対し、 $\frac{1}{\sigma^2} T$ の逆行列は $A$ で与えられることを示せ。また、 $A$ の行列式 $|A|$ および $R$ の行列式 $|R|$ の値を求めよ。

[2]の回答

$\frac{1}{\sigma^2} T A$ の $ij$ 成分を $e_{ij}$ とかくと、 $e_{ij} = \displaystyle \sum_{k=1}^n \frac{1}{1-\phi^2} \phi^{|i-k|} a_{kj}$ である。

これを計算すると、対角要素が1、それ以外が0となるので確かめて欲しい。（割愛）

$A$ の $k$ 行目 $(k=1,2,\cdots , n-1)$ を $\phi$ 倍して $k+1$ 行目に足すということを $k=1$ から順番に行った行列 $A'$ は以下のようになる。

$A'$ の $h$ 列目 $(h=1,2,\cdots , n-1)$ を $\phi$ 倍して $h+1$ 列目に足すということを $h=1$ から順番に行った行列 $A''$ は以下のようになる。

上記の操作によって行列式は不変なので、 $det(A)=det(A')=det(A'')=1-\phi^2$ となる。

となるので、 $det(R)= (1 - \phi^2)^{n-1}$

問題[3]

${\bf x}=(x_1, \ldots , x_n)^T$ を $n$ 次ベクトルとしたとき、問題[2]の行列 $A$ に関する２次形式 $Q_A = {\bf x}^T A {\bf x}$ を $x_1 , \ldots , x_n$ を用いて書き下し、 $|\phi|$ <1のとき、 $Q_A$ はすべての ${\bf x} \ne {\bf 0}$ に対して、常に正であること、すなわち $A$ は正定値であることを示せ。

[3]の回答

問題[4]

問題[2]の行列 $A$ の $(1,1)$ 要素の1のみを $\phi^2$ に変えた行列を $B$ とする。一般の $n$ について、 $B$ に関する２次形式 $Q_B = {\bf x}^T B {\bf x}$ はすべての ${\bf x}$ に対して $\phi$ の値によらず非負となること、すなわち $B$ は非負定値であることを示せ。また、 $Q_B=0$ となる ${\bf x}$ （ただし、 ${\bf x} \ne {\bf 0}$ はどのようなベクトルであるか。