Markov Informationsquelle - Markov information source

In der Mathematik ist eine Markov-Informationsquelle oder einfach eine Markov-Quelle eine Informationsquelle, deren zugrunde liegende Dynamik durch eine stationäre endliche Markov-Kette gegeben ist .

Formale Definition

Eine Informationsquelle ist eine Folge von Zufallsvariablen, die sich über ein endliches Alphabet Γ erstrecken und eine stationäre Verteilung aufweisen .

Eine Markov-Informationsquelle ist dann eine (stationäre) Markov-Kette M zusammen mit einer Funktion

das ordnet Zustände S in der Markov-Kette Buchstaben im Alphabet Γ zu.

Eine eindeutige Markov-Quelle ist eine Markov-Quelle, für die die Werte immer dann unterschiedlich sind, wenn jeder der Zustände in einem Schritt von einem gemeinsamen vorherigen Zustand aus erreichbar ist. Uniforme Quellen zeichnen sich dadurch aus, dass viele ihrer Eigenschaften im Vergleich zum allgemeinen Fall weitaus einfacher zu analysieren sind. 00

Anwendungen

Markov-Quellen werden in der Kommunikationstheorie häufig als Modell eines Senders verwendet . Markov-Quellen kommen auch in der Verarbeitung natürlicher Sprache vor , wo sie verwendet werden, um verborgene Bedeutungen in einem Text darzustellen. Angesichts der Ausgabe einer Markov-Quelle, deren zugrunde liegende Markov-Kette unbekannt ist, wird die Lösung der zugrunde liegenden Kette durch die Techniken versteckter Markov-Modelle wie den Viterbi-Algorithmus übernommen .

Siehe auch

Verweise

  • Robert B. Ash, Informationstheorie , (1965) Dover Publications. ISBN  0-486-66521-6