Gemischtes Modell - Mixed model

Teil einer Serie über
Regressionsanalyse
Modelle
Lineare Regression Einfache Regression Polynomialregression Allgemeines lineares Modell
Verallgemeinertes lineares Modell Diskrete Wahl Binomiale Regression Binäre Regression Logistische Regression Multinomiale logistische Regression Gemischte Logit Probit Multinomiales Probit Logit bestellt Bestelltes Probit Poisson
Mehrstufiges Modell Feste Effekte Zufällige Effekte Lineares Mixed-Effects-Modell Nichtlineares Mixed-Effects-Modell
Nichtlineare Regression Nichtparametrisch Semiparametrisch Robust Quantil Isotonisch Hauptkomponenten Kleinster Winkel Lokal Segmentiert
Fehler-in-Variablen
Einschätzung
Kleinsten Quadrate Linear Nichtlinear
gewöhnliche Gewichtet Verallgemeinert
Teilweise Gesamt Nicht negativ Ridge-Regression Regularisiert
Geringste absolute Abweichungen Iterativ neu gewichtet Bayesian Bayes-Multivariat
Hintergrund
Regressionsvalidierung Mittlere und vorhergesagte Reaktion Fehler und Residuen Güte der Anpassung Studentisiertes Residuum Satz von Gauss-Markov
Mathematikportal
v t e

Ein gemischtes Modell , ein Modell mit gemischten Effekten oder ein gemischtes Fehlerkomponentenmodell ist ein statistisches Modell, das sowohl feste Effekte als auch zufällige Effekte enthält . Diese Modelle sind in einer Vielzahl von Disziplinen der physikalischen, biologischen und sozialen Wissenschaften nützlich. Sie sind besonders nützlich in Umgebungen, in denen wiederholte Messungen an denselben statistischen Einheiten ( Längsschnittstudie ) oder an Clustern verwandter statistischer Einheiten durchgeführt werden. Aufgrund ihres Vorteils beim Umgang mit fehlenden Werten werden Mixed-Effects-Modelle häufig traditionellen Ansätzen wie der Varianzanalyse mit wiederholten Messungen vorgezogen .

Auf dieser Seite werden hauptsächlich lineare Mixed-Effects-Modelle (LMEM) und nicht generalisierte lineare Mixed-Effects-Modelle oder nichtlineare Mixed-Effects-Modelle diskutiert .

Historie und aktueller Status

Ronald Fisher führte Zufallseffektmodelle ein , um die Korrelationen von Merkmalswerten zwischen Verwandten zu untersuchen. In den 1950er Jahren lieferte Charles Roy Henderson die besten linearen unverzerrten Schätzungen von festen Effekten und die besten linearen unverzerrten Vorhersagen von zufälligen Effekten. In der Folge hat sich die gemischte Modellierung zu einem wichtigen Bereich der statistischen Forschung entwickelt, darunter Arbeiten zur Berechnung von Maximum-Likelihood-Schätzungen, nichtlinearen Modellen mit gemischten Effekten, fehlenden Daten in Modellen mit gemischten Effekten und Bayes'scher Schätzung von Modellen mit gemischten Effekten. Gemischte Modelle werden in vielen Disziplinen angewendet, bei denen mehrere korrelierte Messungen an jeder interessierenden Einheit vorgenommen werden. Sie werden prominent in der Forschung an Menschen und Tieren in Bereichen von der Genetik bis zum Marketing verwendet und wurden auch in der Baseball- und Industriestatistik verwendet.

Definition

In Matrixnotation kann ein lineares gemischtes Modell dargestellt werden als

${\displaystyle {\boldsymbol {y}}=X{\boldsymbol {\beta}}+Z{\boldsymbol {u}}+{\boldsymbol {\epsilon}}}$

wo

• ${\displaystyle {\boldsymbol {y}}}$ist ein bekannter Beobachtungsvektor mit Mittelwert ;${\displaystyle E({\boldsymbol {y}})=X{\boldsymbol {\beta}}}$
• ${\displaystyle {\boldsymbol {\beta}}}$ ist ein unbekannter Vektor fester Effekte;
• ${\displaystyle {\boldsymbol {u}}}$ist ein unbekannter Vektor zufälliger Effekte mit Mittelwert und Varianz-Kovarianz-Matrix ;${\displaystyle E({\boldsymbol {u}})={\boldsymbol {0}}}$ ${\displaystyle \operatorname {var} ({\boldsymbol {u}})=G}$
• ${\displaystyle {\boldsymbol {\epsilon}}}$ist ein unbekannter Vektor zufälliger Fehler mit Mittelwert und Varianz ;${\displaystyle E({\boldsymbol {\epsilon}})={\boldsymbol {0}}}$${\displaystyle \operatorname {var} ({\boldsymbol {\epsilon}})=R}$
• ${\displaystyle X}$und sind dafür bekannt , Entwurfsmatrizen beziehen , die Beobachtungen zu und verbunden.${\displaystyle Z}$${\displaystyle {\boldsymbol {y}}}$${\displaystyle {\boldsymbol {\beta}}}$${\displaystyle {\boldsymbol {u}}}$

Einschätzung

Die gemeinsame Dichte von und kann geschrieben werden als: . Unter der Annahme von Normalität, , und , und Maximierung der Verbindungsdichte über und erhält man Hendersons "gemischte Modellgleichungen" (MME) für lineare gemischte Modelle: ${\displaystyle {\boldsymbol {y}}}$${\displaystyle {\boldsymbol {u}}}$${\displaystyle f({\boldsymbol {y}},{\boldsymbol {u}})=f({\boldsymbol {y}}|{\boldsymbol {u}})\,f({\boldsymbol {u} })}$${\displaystyle {\boldsymbol {u}}\sim {\mathcal {N}}({\boldsymbol {0}},G)}$${\displaystyle {\boldsymbol {\epsilon}}\sim {\mathcal{N}}({\boldsymbol {0}},R)}$${\displaystyle \mathrm {Cov} ({\boldsymbol {u}},{\boldsymbol {\epsilon}})={\boldsymbol {0}}}$${\displaystyle {\boldsymbol {\beta}}}$${\displaystyle {\boldsymbol {u}}}$

${\displaystyle {\begin{pmatrix}X'R^{-1}X&X'R^{-1}Z\\Z'R^{-1}X&Z'R^{-1}Z+G^{- 1}\end{pmatrix}}{\begin{pmatrix}{\hat {\boldsymbol {\beta}}}\\{\hat {\boldsymbol {u}}}\end{pmatrix}}={\begin{ pmatrix}X'R^{-1}{\boldsymbol {y}}\\Z'R^{-1}{\boldsymbol {y}}\end{pmatrix}}}$

Die Lösungen des MME und sind die besten linearen unverzerrten Schätzungen und Prädiktoren für und bzw. . Dies ist eine Folge des Gauß-Markov-Theorems, wenn die bedingte Varianz des Ergebnisses nicht auf die Identitätsmatrix skalierbar ist. Wenn die bedingte Varianz bekannt ist, ist die nach der inversen Varianz gewichtete Kleinste-Quadrate-Schätzung die beste lineare unverzerrte Schätzung. Die bedingte Varianz ist jedoch selten, wenn überhaupt, bekannt. Daher ist es wünschenswert, die Varianz und die gewichteten Parameterschätzungen beim Lösen von MMEs gemeinsam zu schätzen. ${\displaystyle \textstyle {\hat {\boldsymbol {\beta}}}}$${\displaystyle \textstyle {\hat {\boldsymbol {u}}}}$${\displaystyle {\boldsymbol {\beta}}}$${\displaystyle {\boldsymbol {u}}}$

Eine Methode, die verwendet wird, um solche gemischten Modelle anzupassen, ist der Erwartungs-Maximierungs-Algorithmus, bei dem die Varianzkomponenten als unbeobachtete Störparameter in der gemeinsamen Wahrscheinlichkeit behandelt werden. Derzeit ist dies die implementierte Methode für die wichtigsten Statistiksoftwarepakete R (lme im nlme-Paket oder lineare gemischte Effekte im lme4-Paket), Python ( statsmodels- Paket), Julia (MixedModels.jl-Paket) und SAS (proc gemischt). Die Lösung der gemischten Modellgleichungen ist eine Schätzung der maximalen Wahrscheinlichkeit, wenn die Fehlerverteilung normal ist.

Siehe auch

• Nichtlineares Mixed-Effects-Modell
• Modell mit festen Effekten
• Verallgemeinertes lineares gemischtes Modell
• Lineare Regression
• Mixed-Design-Varianzanalyse
• Mehrstufiges Modell
• Modell mit zufälligen Effekten
• Entwurf für wiederholte Maßnahmen

Verweise

Weiterlesen

• Gałecki, Andrzej; Burzykowski, Tomasz (2013). Lineare Mixed-Effects-Modelle mit R: Ein schrittweiser Ansatz . New York: Springer. ISBN 978-1-4614-3900-4.
• Milliken, GA; Johnson, DE (1992). Analyse unordentlicher Daten: Vol. 2, No. I. Entworfene Experimente . New York: Chapman & Hall.
• Westen, BT; Welch, KB; Galecki, AT (2007). Lineare gemischte Modelle: Ein praktischer Leitfaden für die Verwendung von Statistiksoftware . New York: Chapman & Hall/CRC.