Résumé
On s'intéresse ici aux possibles vitesses d'estimation d'une densité à support compact dans ℝm sous des hypothèses de régularité, lorsque la perte est mesurée par le carré de la distance de Hellinger (on regardera aussi le cas connu des normes \(\mathbb{L}^q \) pour 1≦q≦2) et le risque est le risque minimax sur la famille. On donne une méthode générale permettant de traiter les problèmes dans le cadre de la théorie de l'approximation sous des conditions concernant l'entropie métrique et l' ε-capacité des familles à estimer. Les rapports entre régularité et entropie métrique étant bien connus, nous pourrons aussi traiter les cas classiques et d'autres qui le sont moins. Sous des conditions de bornes inférieures les vitesses sont celles observées pour la norme \(\mathbb{L}^q \) mais elles diffèrent dans le cas général. On montre aussi que les restrictions sur la compacité du support ou la régularité sont indispensables et que leur absence mène à l'impossibilité d'obtenir une estimation raisonnable en ce sens que n'importe quelle suite d'estimateurs sera arbitrairement mauvaise en un point au moins. Un résultat analogue est vrai sous des conditions de régularité.
Article PDF
References
Assouad, P.: Deux remarques sur l'estimation. C.R. Acad. Sci. Paris 296, Sér. I, 1021–1024 (1983)
Birgé, L.: Thèse, 3e-partie. Université Paris VII (1980)
Birgés, L.: Approximation dans les espaces métriques et théorie de l'estimation. Z. Wahrscheinlichkeitstheor. Verw. Geb. 65, 181–237 (1983)
Birgé, L.: Non-asymptotic minimax risk for Hellinger balls. Probability and Math. Statistics. To appear
Bretagnolle, J., Huber, C.: Estimation des densités: risque minimax. Z. Wahrscheinlichkeitstheor. Verw. Geb. 47, 119–137 (1979)
Dacunha-Castelle, D.: École d'Eté de Probabilités de Saint-Flour VII. Lecture Notes in Mathematics no 678. Berlin-Heidelberg-New York: Springer 1977
Devroye, L.: On arbitrarily slow rates of convergence in density estimation. Z. Wahrscheinlichkeitstheor. Verw. Gebiete 62, 475–483 (1983)
Ibragimov, I.A., Khas'minskii, R.Z.: Estimation of distribution density. Zap. Nauchn. Semin. LOMI 98, 61–85 (1980) in russian, and J. Sov. Math. 21, 40–57 (1983)
Ibragimov, I.A., Khas'minskii, R.Z.: On the non-parametric density function. Zap. Nauchn. Semin. LOMI 108, 73–89, in russian (1981)
Ibragimov, I.A., Khas'minskii, R.Z.: Statistical Estimation, Asymptotic Theory. Berlin-Heidelberg-New York: Springer 1981
Khas'minskii, R.Z.: A lower bound on the risks of non-parametric estimates of densities in the uniform metric. Theory Probab. Appl. 23, 794–796 (1978)
Kolmogorov, A.N., Tikhomirov, V.M.: ε-entropy and ε-capacity of sets in function spaces. Am. Math. Soc. Transl. (2) 17, 277–364 (1961)
Le Cam, L.: Convergence of estimates under dimensionality restrictions. Ann. Statist. 1, 38–53 (1973)
LeCam, L.: Asymptotic methods in statistical decision theory. To be published
Lorentz, G.G.: Metric entropy and approximation. Bull. Amer. Math. Soc. 72, 903–937 (1966)
Lorentz, G.G.: Approximation of Functions. New York: Holt, Rinehart, Winston 1966
Müller, H.G., Gasser, T.: Optimal convergence properties of kernel estimates of derivatives of a density function. In: Smoothing Techniques for Curve Estimation (T. Gasser and M. Rosenblatt eds.). Lecture Notes in Mathematics no. 757, pp. 144–154. Berlin-Heidelberg-New York: Springer 1979
Stone, C.J.: Optimal rates of convergence for nonparametric estimators. Ann. Statist. 8, 1348–1360 (1980)
Stone, C.J.: Optimal uniform rate of convergence for nonparametric estimators of a density function or its derivatives. University of California Berkeley: preprint (1983)
Author information
Authors and Affiliations
Additional information
This work was carried out during a visit of the author at the Mathematical Sciences Research Institute at Berkeley
Rights and permissions
About this article
Cite this article
Birgé, L. On estimating a density using Hellinger distance and some other strange facts. Probab. Th. Rel. Fields 71, 271–291 (1986). https://doi.org/10.1007/BF00332312
Received:
Revised:
Issue Date:
DOI: https://doi.org/10.1007/BF00332312