連続時間信号を離散時間信号に変換する際には，サンプラや量子化器などによって時間的・空間的に離散化される。
離散時間信号に重畳する誤差としては入力される連続信号に重畳する雑音と離散化に起因する誤差があり，その誤差は可能な限り小さくすることが望ましい。
オーバーサンプリングは離散時間システムの時間方向の分解能を活用し，誤差信号の確率的性質を利用してその影響低減を実現する方法である。
連続時間信号
x ( t ) x(t) x ( t ) を離散化することを考える。この信号には雑音
w ( t ) w(t) w ( t ) が重畳しているとして，サンプラに入力される連続時間信号を
x c ( t ) x_{\rm c}(t) x c ( t ) とすれば次のように表現される。
x c ( t ) = x ( t ) + w ( t ) \begin{align}
x_{\rm c}(t) &= x(t) + w(t)
\end{align} x c ( t ) = x ( t ) + w ( t ) また，雑音
w ( t ) w(t) w ( t ) は白色雑音であり，定常性とエルゴード性を持つ，すなわちエルゴード定常過程の実現値とする。
信号の時間平均とアンサンブル平均(集団平均)が一致する場合に，その信号はエルゴード性を持つという。エルゴード性に加えて定常性も有する場合には，この特性は平均値(1次モーメント)だけでなく，分散(2次モーメント)にも拡張される。
連続時間信号
x c ( t ) x_{\rm c}(t) x c ( t ) をエルゴード定常過程の実現値としたとき，そのパワー
P c P_{\rm c} P c は次のように記述される。
P c = E [ ∣ x c ( t ) ∣ 2 ] = lim T → ∞ 1 T ∫ 0 ∞ ∣ x c ( t ) ∣ 2 d t \begin{align}
P_{\rm c} = E\left[|x_{\rm c}(t)|^2\right] = \lim_{T\rightarrow\infty}\frac{1}{T}\int^{\infty}_{0} |x_{\rm c}(t)|^2 dt
\end{align} P c = E [ ∣ x c ( t ) ∣ 2 ] = T → ∞ lim T 1 ∫ 0 ∞ ∣ x c ( t ) ∣ 2 d t また，連続時間信号
x c ( t ) x_{\rm c}(t) x c ( t ) からサンプルして作成した離散時間信号もエルゴード定常過程の実現値であり，周期
h h h のサンプラを介して生成された離散時間信号を
x d , h ( t ) x_{\rm d,h}(t) x d , h ( t ) と表現すると，そのパワー
P d , h P_{\rm d,h} P d , h は次のように記述される。
P d , h = E [ ∣ x d , h [ k ] ∣ 2 ] = lim N → ∞ 1 N ∑ k = 0 N − 1 ∣ x d , h [ k ] ∣ 2 d t \begin{align}
P_{\rm d, h} = E\left[|x_{\rm d,h}[{\rm k}]|^2\right] = \lim_{N\rightarrow\infty}\frac{1}{N}\sum^{N-1}_{{\rm k}=0} |x_{\rm d,h}[{\rm k}]|^2 dt
\end{align} P d , h = E [ ∣ x d , h [ k ] ∣ 2 ] = N → ∞ lim N 1 k = 0 ∑ N − 1 ∣ x d , h [ k ] ∣ 2 d t エルゴード性を有していることから，信号のパワーはデータセットに依存せずに時間平均と一致し，
P d , i = P d , j ( i ≠ j ) P_{\rm d,i}=P_{\rm d,j}\ (i\neq j) P d , i = P d , j ( i = j ) が成立する。また，定常過程では統計的性質が時間に依存しないため，任意のサンプラを介して生成した離散時間信号の2次モーメントは連続時間信号と同じ値となる。したがって，
P c = P d P_{\rm c}=P_{\rm d} P c = P d となる。
周期
h h h のサンプラで離散化した場合のサンプル値を
x s [ k ] x_{\rm s}[{\rm k}] x s [ k ] とし，次のように記述する。
x s [ k ] = x [ k ] + w [ k ] \begin{align}
x_{\rm s}[{\rm k}] &= x[{\rm k}] + w[{\rm k}]
\end{align} x s [ k ] = x [ k ] + w [ k ] この信号のパワースペクトル密度関数
S s ( e j ω ) S_{\rm s}(e^{j\omega}) S s ( e jω ) をWiener–Khinchinの定理から求める。
S s ( e j ω ) = ∑ n = − ∞ ∞ R s [ n ] e − j ω n R s [ n ] = E [ x s [ k ] x s [ k − n ] ] \begin{align}
S_{\rm s}(e^{j\omega}) &= \sum^{\infty}_{{\rm n}=-\infty}R_{\rm s}[{\rm n}]e^{-j\omega{\rm n}}\\
R_{\rm s}[{\rm n}] &= E[x_{\rm s}[{\rm k}]x_{\rm s}[{\rm k}-{\rm n}]]
\end{align} S s ( e jω ) R s [ n ] = n = − ∞ ∑ ∞ R s [ n ] e − jω n = E [ x s [ k ] x s [ k − n ]] ただし，
R s [ n ] R_{\rm s}[{\rm n}] R s [ n ] は
x s [ k ] x_{\rm s}[{\rm k}] x s [ k ] の自己相関関数とする。この自己相関関数を整理すると，次のようになる。
R s [ n ] = E [ ( x [ k ] + w [ k ] ) ( x [ k − n ] + w [ k − n ] ) ] = E [ ( x [ k ] x [ k − n ] + x [ k ] w [ k − n ] + x [ k − n ] w [ k ] + w [ k − n ] w [ k − n ] ] = R x [ n ] + R x w [ n ] + R x w [ − n ] + R w [ n ] \begin{align}
R_{\rm s}[{\rm n}] &= E[(x[{\rm k}]+w[{\rm k}])(x[{\rm k}-{\rm n}]+w[{\rm k}-{\rm n}])] \\
&= E[(x[{\rm k}]x[{\rm k}-{\rm n}] + x[{\rm k}]w[{\rm k}-{\rm n}] + x[{\rm k}-{\rm n}]w[{\rm k}] + w[{\rm k}-{\rm n}]w[{\rm k}-{\rm n}]] \\
&= R_{x}[{\rm n}] + R_{xw}[{\rm n}] + R_{xw}[-{\rm n}] + R_{w}[{\rm n}]
\end{align} R s [ n ] = E [( x [ k ] + w [ k ]) ( x [ k − n ] + w [ k − n ])] = E [( x [ k ] x [ k − n ] + x [ k ] w [ k − n ] + x [ k − n ] w [ k ] + w [ k − n ] w [ k − n ]] = R x [ n ] + R x w [ n ] + R x w [ − n ] + R w [ n ] ただし，
R x , R w R_{x}, R_{w} R x , R w は
x , w x, w x , w に自己相関関数，
R x w R_{xw} R x w は
x x x と
w w w の相互相関関数を表す。
x x x と
y y y が無相関である場合には
R x w = 0 R_{xw}=0 R x w = 0 となり，自己相関関数
R s [ n ] R_{\rm s}[{\rm n}] R s [ n ] とパワースペクトル密度関数
S s ( e j ω ) S_{\rm s}(e^{j\omega}) S s ( e jω ) は以下のように整理される。
R s [ n ] = R x [ n ] + R w [ n ] S s ( e j ω ) = ∑ n = − ∞ ∞ ( R x [ n ] + R w [ n ] ) e − j ω n = S x ( e j ω ) + S w ( e j ω ) \begin{align}
R_{\rm s}[{\rm n}] &= R_{x}[{\rm n}] + R_{w}[{\rm n}]\\
S_{\rm s}(e^{j\omega}) &= \sum^{\infty}_{{\rm n}=-\infty}\left( R_{x}[{\rm n}] + R_{w}[{\rm n}] \right) e^{-j\omega{\rm n}}\\
&= S_{x}(e^{j\omega}) + S_{w}(e^{j\omega})
\end{align} R s [ n ] S s ( e jω ) = R x [ n ] + R w [ n ] = n = − ∞ ∑ ∞ ( R x [ n ] + R w [ n ] ) e − jω n = S x ( e jω ) + S w ( e jω ) ここで，
S x ( e j ω ) , S w ( e j ω ) S_{x}(e^{j\omega}), S_{w}(e^{j\omega}) S x ( e jω ) , S w ( e jω ) は
x x x と
w w w のパワースペクトル密度関数である。信号
x x x は確定信号のためサンプラの周期に依存せずにパワースペクトル密度関数が決定するが，雑音
w w w は確率過程の実現値のためサンプラの周期によってパワースペクトル密度関数が変化する。雑音がエルゴード定常過程の実現値であり，白色雑音であることを考慮すると，雑音の自己相関関数
R w [ n ] R_{w}[{\rm n}] R w [ n ] および パワースペクトル密度関数
S w ( e j ω ) S_{w}(e^{j\omega}) S w ( e jω ) は次のように記述できる。
R w [ n ] = σ w 2 δ [ n ] S w ( e j ω ) = ∑ n = − ∞ ∞ σ w 2 δ [ n ] e − j ω n = σ w 2 \begin{align}
R_{w}[{\rm n}] &= \sigma_{w}^2\delta[{\rm n}] \\
S_{w}(e^{j\omega}) &= \sum^{\infty}_{{\rm n}=-\infty} \sigma_{w}^2\delta[{\rm n}] e^{-j\omega{\rm n}} = \sigma_{w}^2
\end{align} R w [ n ] S w ( e jω ) = σ w 2 δ [ n ] = n = − ∞ ∑ ∞ σ w 2 δ [ n ] e − jω n = σ w 2 ただし，
σ w 2 \sigma_{w}^2 σ w 2 は雑音
w w w の分散値である。離散時間系の正規化角周波数を用いた記述では見通しが悪いため，エネルギの等価性を介して周波数変換を行う。正規化周波数
ω = 2 π h f \omega=2\pi hf ω = 2 πh f を考慮して微小区間
d f df df のエネルギを考えれば，次の等式が成立する。
1 2 π S w ( e j ω ) ⋅ d ω = S w ( f ) d f 1 2 π S w ( e j 2 π h f ) ⋅ 2 π h d f = S w ( f ) d f ( ∵ d ω = 2 π h d f ) ∴ S w ( f ) = h S w ( e j 2 π h f ) \begin{align}
\frac{1}{2\pi}S_{w}(e^{j\omega}) \cdot d\omega &= S_{w}(f) df\\
\frac{1}{2\pi}S_{w}(e^{j 2\pi hf}) \cdot 2\pi h df &= S_{w}(f) df \quad (\because d\omega = 2\pi h df)\\
\therefore S_{w}(f) &= h S_{w}(e^{j 2\pi hf})
\end{align} 2 π 1 S w ( e jω ) ⋅ d ω 2 π 1 S w ( e j 2 πh f ) ⋅ 2 πh df ∴ S w ( f ) = S w ( f ) df = S w ( f ) df ( ∵ d ω = 2 πh df ) = h S w ( e j 2 πh f ) 左辺の係数
( 2 π ) − 1 (2\pi)^{-1} ( 2 π ) − 1 はParsevalの定理に由来するスケールファクタである。ここで，Parsevalの定理を経由して次の結果を得る。
σ w 2 = 1 2 π ∫ − π π S w ( e j ω ) d w = ∫ − 1 2 h 1 2 h h S w ( e j 2 π h f ) d f = ∫ − 1 2 h 1 2 h S w ( f ) d f = 1 h S w ( f ) ∴ S w ( f ) = h σ w 2 = σ w 2 f s \begin{align}
\sigma_{w}^2 &= \frac{1}{2\pi}\int^{\pi}_{-\pi} S_{w}(e^{j\omega}) dw = \int^{\frac{1}{2h}}_{-\frac{1}{2h}} h S_{w}(e^{j 2\pi hf}) df \\
&= \int^{\frac{1}{2h}}_{-\frac{1}{2h}} S_{w}(f) df = \frac{1}{h} S_{w}(f)\\
\therefore S_{w}(f) &= h\sigma_{w}^2 = \frac{\sigma_{w}^2}{f_{\rm s}}
\end{align} σ w 2 ∴ S w ( f ) = 2 π 1 ∫ − π π S w ( e jω ) d w = ∫ − 2 h 1 2 h 1 h S w ( e j 2 πh f ) df = ∫ − 2 h 1 2 h 1 S w ( f ) df = h 1 S w ( f ) = h σ w 2 = f s σ w 2 ただし，
f s f_{\rm s} f s はサンプリング周波数を表す。以上より，サンプル値
x s x_{\rm s} x s のパワースペクトル密度関数
S s ( f ) S_{\rm s}(f) S s ( f ) は次のように表現される。
S s ( f ) = S x ( f ) + σ w 2 f s \begin{align}
S_{\rm s}(f) = S_{x}(f) + \frac{\sigma_{w}^2}{f_{\rm s}}
\end{align} S s ( f ) = S x ( f ) + f s σ w 2 雑音がエルゴード定常過程の実現値であることから，その分散はサンプラの周期に依存せずに
σ w 2 \sigma_{w}^2 σ w 2 を取る。そのため，雑音のパワースペクトル密度関数
S w ( f ) S_{w}(f) S w ( f ) はサンプリング周波数を上げることによって小さくなる。
Parsevalの定理とWiener–Khinchinの定理
Parsevalの定理はフーリエ変換がユニタリであることを示す定理であり，制御工学では以下のように記述される。
連続時間信号 x ( t ) x(t) x ( t ) X ( ω ) X(\omega) X ( ω )
E c = ∫ 0 ∞ ∣ x ( t ) ∣ 2 d t = 1 2 π ∫ − ∞ ∞ ∣ X ( ω ) ∣ 2 d ω ( ω = 2 π f ) \begin{align}
E_{\rm c} = \int^{\infty}_{0}|x(t)|^2 dt = \frac{1}{2\pi}\int^{\infty}_{-\infty}|X(\omega)|^2 d\omega \quad (\omega=2\pi f)
\end{align} E c = ∫ 0 ∞ ∣ x ( t ) ∣ 2 d t = 2 π 1 ∫ − ∞ ∞ ∣ X ( ω ) ∣ 2 d ω ( ω = 2 π f )
離散時間信号 x [ k ] x[{\rm k}] x [ k ] X d ( e j ω ) X_{\rm d}(e^{j\omega}) X d ( e jω )
E d = ∑ k = 0 ∞ ∣ x [ k ] ∣ 2 = 1 2 π ∫ − π π ∣ X d ( e j ω ) ∣ 2 d ω ( ω = 2 π h f ) \begin{align}
E_{\rm d} = \sum^{\infty}_{{\rm k}=0}|x[{\rm k}]|^2 = \frac{1}{2\pi}\int^{\pi}_{-\pi} \left|X_{\rm d}(e^{j\omega})\right|^2 d\omega \quad (\omega=2\pi h f)
\end{align} E d = k = 0 ∑ ∞ ∣ x [ k ] ∣ 2 = 2 π 1 ∫ − π π X d ( e jω ) 2 d ω ( ω = 2 πh f ) 一方のWiener–Khinchinの定理は，自己相関関数とパワースペクトル密度関数がフーリエ変換対であることを示す定理である。
この定理は，Parsevalの定理を経由して導出することができる。
上式はエネルギに関する等式であるが，これを単位時間あたりのエネルギ，すなわちパワーに変換する。
P c = lim T → ∞ 1 T ∫ 0 T ∣ x ( t ) ∣ 2 d t = 1 2 π ∫ − ∞ ∞ lim T → ∞ ∣ X ( ω ) ∣ 2 T d ω ( ω = 2 π f ) \begin{align}
P_{\rm c} = \lim_{T\rightarrow\infty}\frac{1}{T}\int^{T}_{0}|x(t)|^2 dt = \frac{1}{2\pi}\int^{\infty}_{-\infty} \lim_{T\rightarrow\infty}\frac{|X(\omega)|^2}{T} d\omega \quad (\omega=2\pi f)
\end{align} P c = T → ∞ lim T 1 ∫ 0 T ∣ x ( t ) ∣ 2 d t = 2 π 1 ∫ − ∞ ∞ T → ∞ lim T ∣ X ( ω ) ∣ 2 d ω ( ω = 2 π f ) 右辺の被積分関数は周波数空間におけるパワーの分布を示すため，パワースペクトル密度となる。
S ( ω ) = lim T → ∞ ∣ X ( ω ) ∣ 2 T \begin{align}
S(\omega) = \lim_{T\rightarrow\infty}\frac{|X(\omega)|^2}{T}
\end{align} S ( ω ) = T → ∞ lim T ∣ X ( ω ) ∣ 2 ここで，信号
x x x の自己相関関数
R x R_{x} R x についてフーリエ変換を行うことを考える。
R x ( τ ) = lim T → ∞ 1 T ∫ 0 T x ( t ) x ( t − τ ) d t \begin{align}
R_{x}(\tau) &= \lim_{T\rightarrow\infty}\frac{1}{T}\int^{T}_{0}x(t)x(t-\tau) dt\\
\end{align} R x ( τ ) = T → ∞ lim T 1 ∫ 0 T x ( t ) x ( t − τ ) d t Parsevalの定理はフーリエ変換がユニタリであることを示しており，信号の内積を保存する。そこで，次の関数を導入して自己相関関数
R x ( τ ) R_{x}(\tau) R x ( τ ) を表現し，Parsevalの定理を用いて整理する。
f ( t ) = x ( t ) g ( t ) = x ( t − τ ) F ( ω ) = F [ f ( t ) ] = X ( ω ) G ( ω ) = F [ g ( t ) ] = X ( ω ) e − j ω τ ∫ 0 T f ( x ) g ( x ) d t = 1 2 π ∫ − ∞ ∞ F ( ω ) G ∗ ( ω ) d ω = 1 2 π ∫ − ∞ ∞ F ( ω ) G ( − ω ) d ω = 1 2 π ∫ − ∞ ∞ X ( ω ) X ( − ω ) e j ω τ d ω = 1 2 π ∫ − ∞ ∞ ∣ X ( ω ) ∣ 2 e j ω τ d ω ∴ R x ( τ ) = lim T → ∞ 1 T 1 2 π ∫ − ∞ ∞ ∣ X ( ω ) ∣ 2 e j ω τ d ω = 1 2 π ∫ − ∞ ∞ lim T → ∞ ∣ X ( ω ) ∣ 2 T e j ω t d ω = 1 2 π ∫ − ∞ ∞ S x ( ω ) e j ω τ d ω \begin{align}
f(t) &= x(t)\\
g(t) &= x(t - \tau)\\
F(\omega) &= \mathcal{F}[f(t)] = X(\omega)\\
G(\omega) &= \mathcal{F}[g(t)] = X(\omega)e^{-j\omega \tau}\\
\int^{T}_{0} f(x)g(x) dt &= \frac{1}{2\pi}\int^{\infty}_{-\infty}F(\omega)G^{\ast}(\omega) d\omega \\
&= \frac{1}{2\pi}\int^{\infty}_{-\infty}F(\omega)G(-\omega) d\omega = \frac{1}{2\pi}\int^{\infty}_{-\infty}X(\omega)X(-\omega) e^{j\omega \tau} d\omega\\
&= \frac{1}{2\pi}\int^{\infty}_{-\infty} |X(\omega)|^2 e^{j\omega \tau} d\omega\\
\therefore R_{x}(\tau) &= \lim_{T\rightarrow\infty}\frac{1}{T} \frac{1}{2\pi}\int^{\infty}_{-\infty} |X(\omega)|^2 e^{j\omega \tau} d\omega\\
&= \frac{1}{2\pi}\int^{\infty}_{-\infty} \lim_{T\rightarrow\infty}\frac{|X(\omega)|^2}{T} e^{j\omega t} d\omega\\
&= \frac{1}{2\pi}\int^{\infty}_{-\infty} S_{x}(\omega) e^{j\omega \tau} d\omega
\end{align} f ( t ) g ( t ) F ( ω ) G ( ω ) ∫ 0 T f ( x ) g ( x ) d t ∴ R x ( τ ) = x ( t ) = x ( t − τ ) = F [ f ( t )] = X ( ω ) = F [ g ( t )] = X ( ω ) e − jω τ = 2 π 1 ∫ − ∞ ∞ F ( ω ) G ∗ ( ω ) d ω = 2 π 1 ∫ − ∞ ∞ F ( ω ) G ( − ω ) d ω = 2 π 1 ∫ − ∞ ∞ X ( ω ) X ( − ω ) e jω τ d ω = 2 π 1 ∫ − ∞ ∞ ∣ X ( ω ) ∣ 2 e jω τ d ω = T → ∞ lim T 1 2 π 1 ∫ − ∞ ∞ ∣ X ( ω ) ∣ 2 e jω τ d ω = 2 π 1 ∫ − ∞ ∞ T → ∞ lim T ∣ X ( ω ) ∣ 2 e jω t d ω = 2 π 1 ∫ − ∞ ∞ S x ( ω ) e jω τ d ω ここで，
G ∗ ( ω ) G^{\ast}(\omega) G ∗ ( ω ) は
G ( ω ) G(\omega) G ( ω ) の複素共役であり，内積計算のために複素共役を取られていることに留意する。以上より，パワースペクトル密度関数と自己相関関数には次の関係が成立する。
S x ( ω ) = F [ R x ( τ ) ] R x ( τ ) = F − 1 [ S x ( ω ) ] \begin{align}
S_{x}(\omega) &= \mathcal{F}[R_{x}(\tau)] \\
R_{x}(\tau) &= \mathcal{F}^{-1}[S_{x}(\omega)]
\end{align} S x ( ω ) R x ( τ ) = F [ R x ( τ )] = F − 1 [ S x ( ω )]