Testing hypotheses and the construction of confidence intervals for the parameters of stochastic linear difference equations in small samples

Zusammenfassung

Die Anwendung der Methode der Kleinsten Quadrate auf stochastische lineare Differenzengleichungen führt bekanntlich bei einer einigermaßen großen Zahl von Beobachtungen zu annähernd unverzerrten und annähernd normalverteilten Parameterschätzungen; vorausgesetzt, die "Stabilität" des dynamischen Systems im Zeitablauf ist gewährleistet (d.h. das System "explodiert" nicht). Bei kleinen Beobachtungsumfängen sind die Parameterschätzungen im allgemeinen verzerrt; darüber hinaus lassen sich die mit der "klassischen" Anwendung dieser Methode verbundenen Wahrscheinlichkeitsaussagen — betreffend die Konstruktion von Konfidenzintervallen und die Verteilung von Testgrößen — nicht aufrechterhalten. Der vorliegende Aufsatz versucht, einige der in diesem Zusammenhang auftretenden Probleme zu lösen. Abschnitt 1 enthält eine neue Methode zur Punkt- und Intervallschätzung der Regressionsparameter; Abschnitt 2 befaßt sich mit ihrer statistischen Überprüfung. In Abschnitt 3 wird die Konstruktion des Prognoseintervalls für die Realisierung der abhängigen Variablen in der Periode T+1 (wobei T den Beobachtungsumfang darstellt) gezeigt. Abschnitt 4 enthält ein Beispiel zur Illustration.

Summary

As is well known, in large samples the method of least squares leads to approximately unbiased and approximately normally distributed parameter estimators when applied to stochastic linear difference equations. This holds true provided the "stability" of the dynamic system is guaranteed as time goes on, i.e. provided the system is "nonexplosive". With a small sample, the use of the least squares method on such a stochastic difference equation leads to biased parameter estimators. Further, probability statements concerning confidence intervals and the distribution functions of test statistics being true for the classical use of least squares — i.e. if the observations of the regressors can be regarded as known parameters — are not valid in this case. The present paper tries to solve some of these problems. Section 1 contains a new method for the construction of confidence intervals for the regression coefficients and for linear functions of them. Section 2 deals with testing of hypotheses on linear combinations of the unknown parameters. Section 3 is concerned with the construction of a confidence interval for the realization of the dependent variable in period T+1 (T being the sample size). Finally, section 4 contains an illustrating example.

Résumé

C’est un fait connu que l’application de la méthode des moindres carrés à des équations linéaires stochastiques de différences fournit des estimations des paramètres qui sont à peu près sans biais et distribuées à peu près normalement, à condition que le nombre des observations soit passablement grand et que le système dynamique soit stable (c’est-à-dire non-explosif). Si le nombre des observations est petit, les estimations des paramètres sont généralement biaisées; de plus on n’y peut pas maintenir les propositions de probabilité — repartition des paramètres du test — qui sont liées à l’application "classique" de la méthode des moindres carrés. Le présent article tente de résoudre quelques-uns des problèmes y surgissant. La première partie contient une nouvelle méthode pour l’estimation ponctuelle et par intervalles des paramètres de régression. La deuxième partie s’occupe de leur vérification statistique. La troisième partie décrit la contruction de l’intervalle prognostique pour la réalisation des variables dépendantes dans la période T+1 (où T est la période d’observation). La quatrième partie, pour illustrer la méthode, contient un exemple.

Резюме

Применение метода наименьщих квадратов к случайным линейным конечноразностным уравнениям при достаточно больщом числе наблюдений, как известно, приводит к почти неискаженным и почти нормально распределенным оценкам параметров при условии, что «стабильность» динамической системы во времени гарантирована (т. е. что система не «взрывается»). При небольщих общемах наблюдений оценки параметров обычно искажены; к тому же нельзя поддерживать связанные с «классическим» применением Этого метода вероятностные высказывания, касаюшиеся конструкции доверительных интервалов и распределения тестовых статистик. Настояшая работа пытается рещить несколько связанных с Этим проблем. Часть I содержит новый метод точечной и интервальной оценки параметров регрессии; часть 2 занимается статистической ее проверкой. В части 3 указывается на конструкцию доверительного интервала для реализации зависимых переменных в периоде Т + I (Т являюший общемом наблюдений). Часть 4 содержит наглядный пример.