Lineare Vorhersage - Linear prediction

Die lineare Vorhersage ist eine mathematische Operation, bei der zukünftige Werte eines zeitdiskreten Signals als eine lineare Funktion früherer Abtastwerte geschätzt werden .

In der digitalen Signalverarbeitung wird die lineare Prädiktion oft als Linear Predictive Coding (LPC) bezeichnet und kann daher als Teilmenge der Filtertheorie betrachtet werden . In der Systemanalyse , einem Teilgebiet der Mathematik , kann die lineare Vorhersage als Teil der mathematischen Modellierung oder Optimierung betrachtet werden .

Das Vorhersagemodell

Die gebräuchlichste Darstellung ist

${\displaystyle {\widehat {x}}(n)=\sum _{i=1}^{p}a_{i}x(n-i)\,}$

wobei der vorhergesagte Signalwert, die vorher beobachteten Werte mit und die Prädiktorkoeffizienten sind. Der durch diese Schätzung erzeugte Fehler ist ${\displaystyle {\widehat {x}}(n)}$${\displaystyle x(n-i)}$${\displaystyle p\leq n}$${\displaystyle a_{i}}$

${\displaystyle e(n)=x(n)-{\widehat {x}}(n)\,}$

wo ist der wahre Signalwert. ${\displaystyle x(n)}$

Diese Gleichungen gelten für alle Arten der (eindimensionalen) linearen Vorhersage. Die Unterschiede liegen in der Wahl der Prädiktorkoeffizienten . ${\displaystyle a_{i}}$

Für mehrdimensionale Signale wird die Fehlermetrik oft definiert als

${\displaystyle e(n)=\|x(n)-{\widehat {x}}(n)\|\,}$

wobei eine geeignete gewählte Vektornorm ist . Vorhersagen, wie sie routinemäßig in Kalman-Filtern und Glättern verwendet werden, um aktuelle bzw. vergangene Signalwerte zu schätzen. ${\displaystyle \|\cdot \|}$${\displaystyle {\widehat {x}}(n)}$

Schätzen der Parameter

Die häufigste Wahl bei der Optimierung von Parametern ist das quadratische Mittelwertkriterium, das auch als Autokorrelationskriterium bezeichnet wird. Bei dieser Methode minimieren wir den Erwartungswert des quadratischen Fehlers , was die Gleichung ${\displaystyle a_{i}}$${\displaystyle E[e^{2}(n)]}$

${\displaystyle \sum _{i=1}^{p}a_{i}R(j-i)=R(j),}$

für 1 ≤ j ≤ p , wobei R die Autokorrelation des Signals x _{n ist} , definiert als

${\displaystyle \ R(i)=E\{x(n)x(n-i)\}\,}$,

und E ist der Erwartungswert . Im mehrdimensionalen Fall entspricht dies einer Minimierung der L ₂ -Norm .

Die obigen Gleichungen werden Normalgleichungen oder Yule-Walker-Gleichungen genannt . In Matrixform können die Gleichungen äquivalent geschrieben werden als

${\displaystyle \mathbf {RA} =\mathbf {r} }$

wobei die Autokorrelationsmatrix eine symmetrische Toeplitz-Matrix mit Elementen ist , der Vektor der Autokorrelationsvektor und der Parametervektor ist. ${\displaystyle \mathbf {R} }$${\displaystyle p\times p}$ ${\displaystyle r_{ij}=R(i-j),0\leq i,j<p}$${\displaystyle \mathbf {r} }$${\displaystyle r_{j}=R(j),0<j\leq p}$${\displaystyle \mathbf {A} =[a_{1},a_{2},\,\cdots \,,a_{p-1},a_{p}]}$

Ein anderer, allgemeinerer Ansatz besteht darin, die Summe der Quadrate der Fehler zu minimieren, die in der Form definiert sind minimize

${\displaystyle e(n)=x(n)-{\widehat {x}}(n)=x(n)-\sum _{i=1}^{p}a_{i}x(n-i)=-\sum _{i=0}^{p}a_{i}x(n-i)}$

wobei das Optimierungsproblem, das über alles durchsucht, nun mit eingeschränkt werden muss . ${\displaystyle a_{i}}$${\displaystyle a_{0}=-1}$

Wenn andererseits der mittlere quadratische Vorhersagefehler auf Eins beschränkt ist und die Vorhersagefehlergleichung über den normalen Gleichungen enthalten ist, wird der erweiterte Satz von Gleichungen erhalten als

${\displaystyle \ \mathbf {RA} =[1,0,...,0]^{\mathrm {T} }}$

wobei der Index von 0 bis reicht und eine Matrix ist. ${\displaystyle i}$${\displaystyle p}$${\displaystyle \mathbf {R} }$${\displaystyle (p+1)\times (p+1)}$

Die Spezifikation der Parameter des linearen Prädiktors ist ein weites Thema, und es wurden zahlreiche andere Ansätze vorgeschlagen. Tatsächlich ist das Autokorrelationsverfahren das gebräuchlichste und wird beispielsweise zur Sprachcodierung im GSM- Standard verwendet.

Die Lösung der Matrixgleichung ist rechnerisch ein relativ aufwendiger Prozess. Die Gaußsche Elimination für die Matrixinversion ist wahrscheinlich die älteste Lösung, aber dieser Ansatz nutzt die Symmetrie von nicht effizient aus . Ein schnellerer Algorithmus ist die 1947 von Norman Levinson vorgeschlagene Levinson-Rekursion , die die Lösung rekursiv berechnet. Insbesondere können die obigen Autokorrelationsgleichungen durch den Durbin-Algorithmus effizienter gelöst werden. ${\displaystyle \mathbf {RA} =\mathbf {r} }$${\displaystyle \mathbf {R} }$

1986 schlugen Philippe Delsarte und YV Genin eine Verbesserung dieses Algorithmus vor, die als geteilte Levinson-Rekursion bezeichnet wird und etwa die Hälfte der Multiplikationen und Divisionen erfordert. Es verwendet eine spezielle symmetrische Eigenschaft von Parametervektoren auf nachfolgenden Rekursionsebenen. Das heißt, Berechnungen für die den optimalen Prädiktor enthaltenden Terme verwenden ähnliche Berechnungen für die den optimalen Prädiktor enthaltenden Terme. ${\displaystyle p}$${\displaystyle p-1}$

Eine andere Möglichkeit, Modellparameter zu identifizieren, besteht darin, Zustandsschätzungen unter Verwendung von Kalman-Filtern iterativ zu berechnen und maximale Wahrscheinlichkeitsschätzungen innerhalb von Erwartungs-Maximierungs-Algorithmen zu erhalten .

Für gleich beabstandete Werte ist eine Polynominterpolation eine Linearkombination der bekannten Werte. Wenn geschätzt wird, dass das diskrete Zeitsignal einem Gradpolynom gehorcht, dann werden die Prädiktorkoeffizienten durch die entsprechende Reihe des Dreiecks der Binomialtransformationskoeffizienten gegeben. Diese Schätzung könnte für ein sich langsam änderndes Signal mit geringem Rauschen geeignet sein. Die Vorhersagen für die ersten paar Werte von sind ${\displaystyle p-1,}$${\displaystyle a_{i}}$${\displaystyle p}$

${\displaystyle {\begin{array}{lcl}p=1&:&{\widehat {x}}(n)=1x(n-1)\\p=2&:&{\widehat {x}}(n)=2x(n-1)-1x(n-2)\\p=3&:&{\widehat {x}}(n)=3x(n-1)-3x(n-2)+1x(n-3)\\p=4&:&{\widehat {x}}(n)=4x(n-1)-6x(n-2)+4x(n-3)-1x(n-4)\\\end{array}}}$

Siehe auch

• Autoregressives Modell
• Lineare prädiktive Analyse
• Minimaler mittlerer quadratischer Fehler
• Vorhersageintervall
• Rasta-Filterung

Verweise

Weiterlesen

• Hayes, MH (1996). Statistische digitale Signalverarbeitung und Modellierung . New York: J. Wiley & Söhne. ISBN 978-0471594314.
• Levinson, N. (1947). „Das Wiener RMS (root mean square) Fehlerkriterium in Filterdesign und Vorhersage“. Zeitschrift für Mathematik und Physik . 25 (4): 261–278.
• Makhoul, J. (1975). „Lineare Vorhersage: Eine Tutorial-Überprüfung“. Verfahren der IEEE . 63 (5): 561–580. doi : 10.1109/PROC.1975.9792 .
• Yule, GU (1927). "Über eine Methode zur Untersuchung von Periodizitäten in gestörten Reihen, mit besonderer Bezugnahme auf Wolfers Sonnenfleckenzahlen" . Phil. Übers. Roy. Soz. Ein . 226 : 267–298. doi : 10.1098/rsta.1927.0007 . JSTOR  91170 .

Externe Links

• PLP und RASTA (und MFCC und Inversion) in Matlab