逐次最小二乗法によるパラメータ同定

一括最小二乗法では用意したデータセットに対してパラメータ推定を行ったが，これを逐次的に実行することができる。また，忘却係数を導入すれば，古いデータへの適応を防ぎ，状況に合わせたフィッティングが可能となる。

問題定義

目的変数，説明変数，パラメータをそれぞれ

y\in\mathbb{R},\ \bm{\phi}\in\mathbb{R}^{\rm n},\ \bm{\theta}\in\mathbb{R}^{\rm n}

とし，目的変数の決定に関して以下の線形回帰モデルを仮定する。

\begin{align} \hat{y} &= \bm{\theta}^{\mathrm T}\bm{\phi} \end{align}

ただし，上添字

\hat{}

は推定値であることを表す。

逐次最小二乗法

目的変数と説明変数が

\rm N

セット取得できたとして，最小二乗法の評価関数を

\bm{\theta}

の関数として次のように定める。逐次最小二乗法を行うことを前提として，多重共線性を緩和するために正規化項を導入した (リッジ回帰)。

\begin{align} J_{\rm N}(\bm{\theta}) &= \frac{1}{\rm N}\sum^{\rm N}_{\ k= 1} \left(y[{\rm k}] - \bm{\theta}^{\mathrm T}\bm{\phi}[{\rm k}] \right)^2 + \alpha\bm{\theta}^2 \end{align}

与えられたデータセット数が

\rm N

の場合の推定パラメータを

\hat{\bm{\theta}}[{\rm N}]

とすると，次のように求められる。

\begin{align} \hat{\bm{\theta}}[{\rm N}] &= \argmin_{\bm{\theta}} J_{\rm N}(\bm{\theta})\\ &= \left(\sum^{\rm N}_{\ k= 1}\bm{\phi}[{\rm k}]\bm{\phi}^{\mathrm T}[{\rm k}] + \alpha\bm{I} \right)^{-1}\sum^{\rm N}_{\ k= 1}\bm{\phi}[{\rm k}]y[{\rm k}] \end{align}

これを簡潔に表記するために，以下の表現を導入する。

\begin{align} \hat{\bm{\theta}}[{\rm N}] &= \bm{P}[{\rm N}]\bm{\gamma}[{\rm N}]\\ \bm{P}[{\rm N}] &= \left(\sum^{\rm N}_{\ k= 1}\bm{\phi}[{\rm k}]\bm{\phi}^{\mathrm T}[{\rm k}] + \alpha\bm{I}\right)^{-1}\\ \bm{\gamma}[{\rm N}] &= \sum^{\rm N}_{\ k= 1}\bm{\phi}[{\rm k}]y[{\rm k}] \end{align}

ここで，データセットが1つ追加されたとすると，推定パラメータは次のように遷移する。

\begin{align} \hat{\bm{\theta}}[{\rm N}+1] &= \bm{P}[{\rm N}+1]\bm{\gamma}[{\rm N}+1]\\ \bm{P}[{\rm N}+1] &= \left(\bm{P}^{-1}[{\rm N}] + \bm{\phi}[{\rm N}+1]\bm{\phi}^{\mathrm T}[{\rm N}+1] \right)^{-1}\\ \bm{\gamma}[{\rm N}+1] &= \bm{\gamma}[{\rm N}] + \bm{\phi}[{\rm k}+1]y[{\rm N}+1] \\ &= \bm{P}^{-1}[{\rm N}]\hat{\bm{\theta}}[{\rm N}] + \bm{\phi}[{\rm k}+1]y[{\rm N}+1] \\ &= \left(\bm{P}^{-1}[{\rm N}+1]-\bm{\phi}[{\rm N}+1]\bm{\phi}^{\mathrm T}[{\rm N}+1]\right)\hat{\bm{\theta}}[{\rm N}] + \bm{\phi}[{\rm k}+1]y[{\rm N}+1]\\ &= \bm{P}^{-1}[{\rm N}+1]\hat{\bm{\theta}}[{\rm N}] + \bm{\phi}[{\rm N}+1]\left(y[{\rm N}+1]-\bm{\phi}^{\mathrm T}[{\rm N}+1]\hat{\bm{\theta}}[{\rm N}]\right) \end{align}

\bm{P}

について，逆行列補題を用いることで以下のように変形できる。

\begin{align} \bm{P}[{\rm N}+1] &= \bm{P}[{\rm N}] - \bm{P}[{\rm N}]\bm{\phi}[{\rm N}+1]\left(1 + \bm{\phi}^{\mathrm T}[{\rm N}+1]\bm{P}[{\rm N}]\bm{\phi}[{\rm N}+1]\right)^{-1}\bm{\phi}^{\mathrm T}[{\rm N}+1]\bm{P}[{\rm N}] \\ \end{align}

\bm{\gamma}

について，前回までのデータセットから得た推定パラメータと現時点での説明変数を使用して予測した際の予測誤差

\varepsilon

導入し，整理する。

\begin{align} \hat{y}[{\rm N}+1] &= \hat{\bm{\theta}}^{\mathrm T}[{\rm N}]\bm{\phi}[{\rm N}+1] = \bm{\phi}^{\mathrm T}[{\rm N}+1]\hat{\bm{\theta}}[{\rm N}]\\ \varepsilon[{\rm N}+1] &\equiv y[{\rm N}+1]-\hat{y}[{\rm N}+1]\\ &= y[{\rm N}+1]-\bm{\phi}^{\mathrm T}[{\rm N}+1]\hat{\bm{\theta}}[{\rm N}] \\ \bm{\gamma}[{\rm N}+1] &= \bm{P}^{-1}[{\rm N}+1]\hat{\bm{\theta}}[{\rm N}] + \bm{\phi}[{\rm N}+1]\varepsilon[{\rm N}+1] \end{align}

これを整理すると，以下のようになる。

\begin{align} \hat{\bm{\theta}}[{\rm N}+1] &= \bm{P}[{\rm N}+1]\left( \bm{P}^{-1}[{\rm N}+1]\hat{\bm{\theta}}[{\rm N}] + \bm{\phi}[{\rm N}+1]\varepsilon[{\rm N}+1] \right)\\ &=\hat{\bm{\theta}}[{\rm N}] + \bm{P}[{\rm N}+1]\bm{\phi}[{\rm N}+1]\varepsilon[{\rm N}+1]\\ &= \hat{\bm{\theta}}[{\rm N}] +\bm{K}[{\rm N}+1]\varepsilon[{\rm N}+1] \end{align}

ただし，

\bm{K}

は更新ゲインを表し，次のように計算される。

\begin{align} \bm{K}[{\rm N}+1]&\equiv\bm{P}[{\rm N}+1]\bm{\phi}[{\rm N}+1] \\ &=\bm{P}[{\rm N}]\bm{\phi}[{\rm N}+1]\left(1 - \left(1 + \bm{\phi}^{\mathrm T}[{\rm N}+1]\bm{P}[{\rm N}]\bm{\phi}[{\rm N}+1]\right)^{-1}\bm{\phi}^{\mathrm T}[{\rm N}+1]\bm{P}[{\rm N}]\bm{\phi}[{\rm N}+1]\right) \\ &=\bm{P}[{\rm N}]\bm{\phi}[{\rm N}+1]\left(1 + \bm{\phi}^{\mathrm T}[{\rm N}+1]\bm{P}[{\rm N}]\bm{\phi}[{\rm N}+1]\right)^{-1} \end{align}

以上より，サンプル毎に推定に必要な処理は以下のようになる。

説明変数ベクトル $\bm{\phi}$ を構築する。
予測誤差 $\varepsilon$ と更新ゲイン $\bm{K}$ を計算する。
推定パラメータ $\hat{\bm{\theta}}$ と共分散行列の逆行列 $\bm{P}$ を更新する。

忘却機能付き逐次最小二乗法

過去のデータへの適応を防ぐため，評価関数に忘却係数

\lambda\in(0, 1)

を導入する。

\begin{align} J_{\rm N}(\bm{\theta}) &= \frac{1}{\rm N}\sum^{\rm N}_{\ k= 1} \lambda^{{\rm N}-k}\left(y[{\rm k}] - \bm{\theta}^{\mathrm T}\bm{\phi}[{\rm k}] \right)^2 + \alpha\lambda\bm{\theta}^2 \end{align}

この評価関数を最小化するパラメータは以下のように求められる。

\begin{align} \hat{\bm{\theta}}[{\rm N}] &= \argmin_{\bm{\theta}} J_{\rm N}(\bm{\theta}) = \bm{P}[{\rm N}]\bm{\gamma}[{\rm N}]\\ \bm{P}[{\rm N}] &= \left(\sum^{\rm N}_{\ k= 1}\lambda^{{\rm N}-k}\bm{\phi}[{\rm k}]\bm{\phi}^{\mathrm T}[{\rm k}] + \alpha\lambda\bm{I}\right)^{-1}\\ \bm{\gamma}[{\rm N}] &= \sum^{\rm N}_{\ k= 1}\lambda^{{\rm N}-k}\bm{\phi}[{\rm k}]y[{\rm k}] \end{align}

ここで，データセットが1つ追加されたとすると各パラメータは次のように遷移する。

\begin{align} \bm{P}[{\rm N}+1] &= \left(\lambda\bm{P}^{-1}[{\rm N}] + \bm{\phi}[{\rm N}+1]\bm{\phi}^{\mathrm T}[{\rm N}+1] \right)^{-1}\\ &=\lambda^{-1}\bm{P}[{\rm N}] - \lambda^{-1}\bm{P}[{\rm N}]\bm{\phi}[{\rm N}+1]\left(1 + \bm{\phi}^{\mathrm T}[{\rm N}+1]\lambda^{-1}\bm{P}[{\rm N}]\bm{\phi}[{\rm N}+1]\right)^{-1}\bm{\phi}^{\mathrm T}[{\rm N}+1]\lambda^{-1}\bm{P}[{\rm N}] \\ &=\lambda^{-1}\left\{\bm{P}[{\rm N}] - \bm{P}[{\rm N}]\bm{\phi}[{\rm N}+1]\left(\lambda + \bm{\phi}^{\mathrm T}[{\rm N}+1]\bm{P}[{\rm N}]\bm{\phi}[{\rm N}+1]\right)^{-1}\bm{\phi}^{\mathrm T}[{\rm N}+1]\bm{P}[{\rm N}]\right\} \\ \bm{\gamma}[{\rm N}+1] &= \lambda\bm{\gamma}[{\rm N}] + \bm{\phi}[{\rm k}+1]y[{\rm N}+1] \\ &=\lambda\bm{P}^{-1}[{\rm N}]\hat{\bm{\theta}}[{\rm N}] + \bm{\phi}[{\rm k}+1]y[{\rm N}+1] \\ &=\lambda\left\{\frac{1}{\lambda}\left(\bm{P}^{-1}[{\rm N}+1]-\bm{\phi}[{\rm N}+1]\bm{\phi}^{\mathrm T}[{\rm N}+1]\right)\right\}\hat{\bm{\theta}}[{\rm N}] + \bm{\phi}[{\rm k}+1]y[{\rm N}+1]\\ &=\bm{P}^{-1}[{\rm N}+1]\hat{\bm{\theta}}[{\rm N}] + \bm{\phi}[{\rm N}+1]\left(y[{\rm N}+1]-\bm{\phi}^{\mathrm T}[{\rm N}+1]\hat{\bm{\theta}}[{\rm N}]\right)\\ &=\bm{P}^{-1}[{\rm N}+1]\hat{\bm{\theta}}[{\rm N}] + \bm{\phi}[{\rm N}+1]\varepsilon[{\rm N}+1] \end{align}

また，推定パラメータの更新は次のようになる。

\begin{align} \hat{\bm{\theta}}[{\rm N}+1] &= \bm{P}[{\rm N}+1]\left( \bm{P}^{-1}[{\rm N}+1]\hat{\bm{\theta}}[{\rm N}] + \bm{\phi}[{\rm N}+1]\varepsilon[{\rm N}+1] \right)\\ &=\hat{\bm{\theta}}[{\rm N}] + \bm{P}[{\rm N}+1]\bm{\phi}[{\rm N}+1]\varepsilon[{\rm N}+1]\\ &= \hat{\bm{\theta}}[{\rm N}] +\bm{K}[{\rm N}+1]\varepsilon[{\rm N}+1] \end{align}

ただし，更新ゲイン

\bm{K}

は次のように計算される。

\begin{align} \bm{K}[{\rm N}+1] &\equiv \bm{P}[{\rm N}+1]\bm{\phi}[{\rm N}+1] \\ &=\lambda^{-1}\bm{P}[{\rm N}]\bm{\phi}[{\rm N}+1]\left(1 - \left(\lambda + \bm{\phi}^{\mathrm T}[{\rm N}+1]\bm{P}[{\rm N}]\bm{\phi}[{\rm N}+1]\right)^{-1}\bm{\phi}^{\mathrm T}[{\rm N}+1]\bm{P}[{\rm N}]\bm{\phi}[{\rm N}+1]\right) \\ &=\lambda^{-1}\bm{P}[{\rm N}]\bm{\phi}[{\rm N}+1]\left(\lambda + \bm{\phi}^{\mathrm T}[{\rm N}+1]\bm{P}[{\rm N}]\bm{\phi}[{\rm N}+1]\right)^{-1}\lambda \\ &=\bm{P}[{\rm N}]\bm{\phi}[{\rm N}+1]\left(\lambda + \bm{\phi}^{\mathrm T}[{\rm N}+1]\bm{P}[{\rm N}]\bm{\phi}[{\rm N}+1]\right)^{-1} \end{align}

CONTENTS

問題定義

逐次最小二乗法

忘却機能付き逐次最小二乗法