【統計検定準1級】MA(1)モデルのスペクトル密度関数（スペクトラム）【質問への回答】

はじめに

ありがたいことに読者の方よりご質問をいただきました。
残念ながらコメント上ではグラフや図を用いての説明が困難なので記事で回答させていただきます。

質問内容（一部改変）

いつも大変勉強になっております。
スペクトラムについて、記事ではAR過程でご説明いただきましたが、MA過程ではどうなるのでしょうか。
MA過程ではθによって概形が変わらないことをご紹介いただいたのですが、それぞれにつきスペクトラムの形はどうなるのでしょうか。
MA過程ではθによってスペクトラムを選択肢から選ぶことはできないのでしょうか。

回答

質問ありがとうございます。直接問題を扱うことは著作権の関わりからできない~~（確認してませんが）~~ので、具体的な問題はこちらから2021年の問10をご参照いただければと思います。

日本統計学会公式認定統計検定準1級公式問題集

実務教育出版

Amazon

さて、この記事ではMA(1)モデルを例に、直感的な解法と数式的な解法を用いて自己共分散関数、スペクトラム（スペクトル密度関数）がどうなるかを解説します。

復習

・MA(1)モデル
回答にあたって、いくつか復習をさせてください。
こちらの過去記事から引用します。
syleir.hatenablog.com

1次の移動平均過程(MA(1)過程)とは、 $Y_{t}$ が今のノイズ $\epsilon_{t}$ と直前のノイズ $\epsilon_{t-1}$ で説明され、
$Y_{t} = \mu +\epsilon_{t} + \theta_{1} \epsilon_{t-1}$
$\theta_{1}$ は直前のノイズにどの程度の影響を受けているのかを考える係数であり、 $\epsilon$ にホワイトノイズを仮定する。

モデル図は以下のようになります。

・自己共分散関数
自己共分散関数は、ラグを横軸、そのラグの自己相関係数を縦軸に表示したものです。横軸分時間のずれがあるデータ同士が、どれくらい似通っているかを定量化したものです。

・スペクトラム（スペクトル密度関数）
スペクトラムとは、実際のデータにどのような周期性があるかを解析したものです。自己共分散関数にフーリエ変換したものです。
自己共分散関数(実際のデータではコレログラムに相当)が"ギザギザ"しているほどスペクトラム（実際のデータではペリオドグラムに相当）が高周波、"つるつる"なほど低周波成分が強いものになります。
スペクトル密度関数は横軸に周波数、縦軸にその周波数成分の「強さ」を表しますから、自己共分散関数とスペクトラムの形の概形はこのようになります。

直感的な解法

まず、直感的な解法をお伝えします。

ラグ0

ラグ0の自己共分散は分散をとれば良いです。

ラグ1

MA(1)過程では、下の図のように、隣同士（ラグ=1）のデータは同じノイズから生成されていますので、データ同士の関連は隣同士のデータでは起こりえます。

したがって、ラグ1の関連は起こりうることになります。

θが違うとどうなるか？

θが極めて大きい場合

θが極めて大きい場合は、 $y_t$ は $\epsilon_{t-1}$ からの影響を強く受け、 $\epsilon_{t}$ からの影響が減ります。
そうなると、 $y$ はそれぞれ1つ前のホワイトノイズからの影響を受けます。それぞれのホワイトノイズは相関がありませんので、 $\theta$ が非常に大きい時、隣り合う $y$ 同士の相関も減り、ラグ1の自己共分散も0に近づいていきます。

θが極めて0に近い場合

θが極めて0に近い場合は、 $y_t$ は $\epsilon_{t}$ からの影響を強く受け、 $\epsilon_{t-1}$ からの影響が減ります。

そうなると、 $y$ はそのタイミングのホワイトノイズからの影響を受けます。それぞれのホワイトノイズは相関がありませんので、実は、 $\theta$ が非常に小さいときも隣り合う $y$ 同士の相関も減り、ラグ1の自己共分散も0に近づいていきます。

θが負の場合

θが負の場合は、ホワイトノイズの影響が隣同士のデータで反転するので、ラグ1の自己共分散は負になります。しかし、上の議論と同様に絶対値が極めて大きかったり、0に近い場合は、隣り合うデータの自己共分散係数は0に漸近します。

直感的には、 $\epsilon_{t-1}$ と $\epsilon_{t}$ からの影響が同等の時にラグ1の自己共分散係数は最も大きくなりそうです。実際、 $\theta=1$ の時、自己共分散係数は最大になります。これはこの後数式的に証明します。

2以上のラグ

一方で、2つ以上離れたデータ同士では、全く違うホワイトノイズからデータが生成されています。ホワイトノイズ同士は互いに独立に生成され相関がありません。したがって直感的には2以上では自己相関は起こりえず、自己共分散関数は0になります。

まとめ

以上のことから、自己共分散関数のグラフの概形はこのようになります。

そして、θがいくつであろうと、このグラフは後半がずっと0なので、「つるつる」な関数で、ほぼ周期性がありません（周期が0に近い）。ですから、低周波成分が多いということになり、スペクトル密度関数はこのような概形になります。

数学的な解法

過去記事を参照していただくと、
MA(1)過程の分散と自己共分散について、
$\gamma_{0}= (1 + \theta_{1} ^ 2) \sigma ^2$
$\gamma_{1}= \theta _{1} \sigma ^ 2$
$\gamma_{h}= 0 (h > 1)$
です。自己共分散を考える時は $\gamma_{0}$ で標準化することが多く、 $\dfrac{\gamma_{1}}{\gamma_{0}}$ を考えると、
$\dfrac{\gamma_{1}}{\gamma_{0}} =h(\theta_{1})= \dfrac{\theta _{1}}{1 + \theta_{1} ^ 2}$
となります。
これの最大最小は微分してグラフを書いてあげれば比較的簡単に求まり、このようになります。

おしゃれな解法としては $\theta _{1}>0$ の時、これが0より大きいことを利用し、逆数の最大最小問題と捉えてあげることで、
$\dfrac{1}{h(\theta_{1})}$ が最小の時、 $h(\theta_{1})$ 最大、 $\dfrac{1}{h(\theta_{1})}$ が最大の時、 $h(\theta_{1})$ 最小になること、また $\theta _{1}<0$ の時も $h(-\theta_{1})=-h(\theta_{1})$ が成立し奇関数であることを利用すれば、

相加平均・相乗平均の関係を利用し、 $\theta _{1}>0$ で、
$\dfrac{1}{h(\theta_{1})}=\dfrac{1 + \theta_{1} ^ 2}{\theta _{1}} = \dfrac{1}{\theta _{1}}+{\theta _{1}} \geq 2$
等号成立条件は $\dfrac{1 }{\theta _{1}}=\theta _{1}$ ,つまり $\theta _{1}=1$ のとき2となります。
したがって、 $\theta _{1}=1$ で $h(\theta_{1})$ は最小値 $\dfrac{1}{2}$ となります。
$\theta _{1} \approx 0$ や $\theta _{1} >> 1$ では $h(\theta_{1}) \approx 0$ となります。

また、グラフで考えることもできます。
グラフ $y = g(\theta) = \theta_{1} ^ 2+1$
を考えると、このグラフ上の点、 $(\theta, \theta_{1} ^ 2+1 )$ と原点を結んだ直線の傾きが $\dfrac{1 + \theta_{1} ^ 2}{\theta _{1}}$ であるので、図形的にこの傾きを考えて考慮することもできます。

スペクトル密度関数についても、 $\gamma_{h}= 0 (h > 1)$ を利用すると、
$f(\lambda) = \dfrac{1}{2 \pi} \sum_{h = - \infty}^\infty \gamma_h e ^{-i \lambda h}$
$= \dfrac{1}{2 \pi }( \gamma_0 + 2\sum_{h = 1}^\infty \gamma_h cos(\lambda h))$
(ワークブックの式変形をご参照ください)
$= \dfrac{1}{2 \pi} ( \gamma_0 + 2 \gamma_1 cos(\lambda))$
$= \dfrac{1}{2 \pi} ( (1 + \theta_{1} ^ 2) \sigma ^2 + 2 \theta _{1} \sigma ^ 2 cos(\lambda))$
$= \dfrac{\sigma ^2}{2 \pi} ( (1 + \theta_{1} ^ 2) + 2 \theta _{1} cos(\lambda))$
となりますから、やはり数式で解いてもcosのグラフを圧縮・伸長しy軸方向に並行移動したものになりますから、低周波成分が多いことがわかります。ただし、 $\theta _{1} < 0$ の時は符号が反転し高周波が強めになります。これは $\gamma_{1}= \theta _{1} \sigma ^ 2$ が負になることで「ギザギザ成分」が増え、高周波成分が増えていることに対応します。そして $\theta _{1}$ が0や無限大に近いとcosの影響が減り定数に近づいていくこともわかります。

結論(回答)

MA(1)モデルにおける $\theta$ を変動させた時のスペクトラムの挙動はおそらく正負や0、無限大に近いときが特殊な挙動をするため図でもわかると思います。MA(1)モデル「らしさ」のようなものがあるとすれば、それは $|\theta| = 1$ の時に最大になります。少しでも参考になりましたら幸いです。この度はご質問いただきましてありがとうございました。