Das Akronym ARMA (AutoRegressive-Moving Average) und die daran angelehnten Kunstwörter ARMAX und ARIMA bezeichnen lineare Modelle für stationäre, zeitdiskrete stochastische Prozesse. Sie werden zur Zeitreihenanalyse in der Messtechnik, in der Statistik und dort insbesondere in der Ökonometrie eingesetzt. Die Prognosemodelle der Wirtschaftsinstitute und Banken sind in der Regel aus ARMA-Modellen zusammengesetzt. Ihr mathematischer Kern ist ein lineares Gleichungssystem.

Mathematische Definition eines ARMA-Prozesses

In das Modell fließen Rauschterme und gewichtete frühere Werte der Zeitreihe linear ein. ARMA-Modelle sind eines der Hauptwerkzeuge zur Vorhersage von beobachteten, stochastischen Signalen. Sind die zu modellierenden Signale nicht stationär, dann muss man sie gegebenenfalls vor der Modellierung differenzieren, um den Trend zu beseitigen.

MA-Modell

Das Signal setzt sich aus einem durch gleitendes Mittel (=moving average) der Länge m geglätteten Signal einer (nicht direkt messbaren) anderen Zeitreihe und einem Rauschterm (j=0) zusammen.

AR-Modell

Das Signal setzt sich aus einem geglätteten Signal seiner n vorhergehenden Werte und einem Rauschterm zusammen.

ARMA-Modell

Dieses Modell wird auch als ARMA(n,m)-Modell bezeichnet, wobei n und m die Ordnung des Prozesses heißen.
Mit Hilfe des so genannten Verschiebungsoperators L (von lag=Zeitverschiebung):

L^dx_t = x_{t - d}

schreibt man kürzer auch:

(1 + ?(L))y_t = (1 + ?(L))?_t

wobei ? und ? beides endliche Polynome (der Grade n und m) darstellen:

ARMA-Modelle in der Statistik

Regressionsmodelle spielen in der Statistik eine große Rolle. In derÖkonometrie müssen oft mehrere Zeitreihen der Form x₁(t),x₂(t)...x_n(t) miteinander in Zusammenhang gebracht werden, die s.g. Wirtschaftsindikatoren, also z.B. Zins, Arbeitslosigkeit, Investitionen usw. Man unterscheidet zwischen endogenen zeitabhängigen Variablen Y(t) (die also vom Modell erklärt werden) und exogenen Variablen X(t), die von außen definiert werden. Mit ihnen kann man das allgemeine lineare Gleichungssystem (LGS)

BY = AX + ?

formulieren. B,Y,A und X sind Matrizen mit sovielen Zeilen wie Beobachtungen und sovielen Spalten wie Variablen des jeweiligen Typs. Jeder Zeitpunkt zählt als Beobachtung. Geht einunddieselbe Variable zu verschiedenen Zeitpunkten (also als Y(t), Y(t-1) usw.) in das LGS sein, so zählt dies als mehrere Variablen. Die Gleichung Y(t) = ?₁Y(t - 1) + ?₂Y(t - 2) + ? hat also drei Variablen. Das ist entscheidend für die ARMA-Modelle. ? ist ein Vektor mit sovielen Zeilen wie Beobachtungen.

ARMAX und ARIMA

Ist der Regressor X dabei, spricht man von ARMAX-Modellen. Gehen nur die (diskreten) Ableitungen von Y in das Modell ein, so dass hinterher die Modellprognosen wieder integriert (siehe Integration) werden müssen, so spricht man von ARIMA-Modellen, das I steht für "Integrated".

Alle Modelle der ARMA-Familie haben dieses LGS zur Grundlage. Viele LGS können mit einer einfachen linearen Regression (LR) geschätzt werden. Voraussetzung, dass die Schätzer unverzerrt sind, ist, dass die Störterme ? von Y nicht autokorrelieren, da Korrelation der Fehler untereinander einen LR-Schätzer immer verzerrt. Wenn Autoregressionsterme der Form

vorliegen, liegt in der Regel eine solche Autokorrelation der Störterme vor.

Interpretation des Moving Average-Teils

Man sollte das LGS daher um einen Term der Form

,

also um eine Autoregression der Fehlerterme erweitern. Praktisch spielen vor allem Erweiterungen der Ordnung 1:

? = ?₁?_{t - 1} + ?'

eine Rolle. Das ist ein Markov-Prozess.

Der Begriff "MA" für solche rein stochastischen Prozesse ist eher irreführend. ARMA-Modelle sind also Simultan-Modelle für deterministische Zusammenhangsmodelle (AR-Anteil, entspricht Regressionsmodell) und stochastischen Prozessen (MA-Anteil).

ARMA-Modelle (auch ARMAX, ARIMA) werden durch nichtlineare Regressionsverfahren geschätzt.