Factorisation de fonctions positives sur le tore: Applications à l’inverse des opérateurs de Toeplitz tronqués

Résumé

On considère la classe des fonctions positives, essentiellement bornées et semi-continues inférieurement définies sur le tore ${\mathbb {T}}^2$. Pour les fonctions $f$ de cette classe, on établit un théorème de factorisation dans lequel les facteurs de $f$ ont un spectre localisé dans un cône donné a priori. Si $\Lambda$ est un polygone convexe, on déduit pour ces fonctions une notion de $\Lambda$-factorisation. Celle-ci donne accès à une formule d’inversion de l’opérateur de Toeplitz $T_{\Lambda }(f)$ tronqué sur $\Lambda$. Nous appliquons ces résultats, lorsque $\Lambda$ est un triangle, à un théorème de trace de $\big (T_{\Lambda }(f)\big )^{-1}$ qui relie cette trace à des constantes géométriques liées au domaine $\Lambda$.

Abstract

We consider the class of positive bounded and lower semi-continuous functions defined on the torus ${\mathbb {T}}^2$. A factorisation theorem provides an equality $f=g\bar{g}$ where $g$ has its spectrum in a given cone. Hence the notion of $\Lambda$-factorisation where $\Lambda$ is a convex polygon. From such a factorisation we derive an inversion formula for the truncated Toeplitz operator $T_{\Lambda }(f)$. These results are applied to obtain a trace theorem for $T_{\Lambda }(f)^{-1}$ if $\Lambda$ is a triangle. The trace is related to geometric properties of the triangle.

Appendices

Appendices

Démonstration de la proposition 6

La proposition 6 résulte directement du lemme suivant.

Lemme 14

On pose $m=\lfloor \sqrt{\lambda }\rfloor$ ( c’est-à-dire la partie entière de $\sqrt{\lambda }$) et on considère les deux points $B_{1}$ et $B_{2}$ suivants du triangle $\Lambda _{\lambda }$ : $B_{1}$ est le point du côté $c_{2}$ tel que les segments $OA_{1}$ et $B_{2}B_{1}$ soient parallèles et $B_{2}=(ma,0)$ (voir Fig. 4).

On note $\fancyscript{D}_{1}$ le quadrilatère convexe $OA_{1}B_{1}B_{2}$ inclus dans $\Lambda _{\lambda }$, $\fancyscript{B}_{1}$ la bande incluse dans $\fancyscript{C}_+$ délimitée par les droites $(0A_{1})$ et $(B_{2}B_{1})$ (voir Fig. 4). Dans la factorisation $f=\alpha \bar{\alpha }$ du symbole $f$, on a $\frac{1}{\alpha }\in H^\fancyscript{C}$ et on pose

$$\begin{aligned} \frac{1}{\alpha }=\sum _{\fancyscript{C}}\beta _{u,v}\chi _{1}^{u}\chi _{2}^v \end{aligned}$$

son développement en série de Fourier. Alors

$$\begin{aligned}&\displaystyle \sum _{(k,l)\in \fancyscript{D}_{1}}\left| \left| p_{1}\left( \frac{\chi _{1}^{k}\chi _{2}^l}{\overline{\alpha }}\right) \right| \right| _{2}^2\;=\;\lambda \Big (\sum _{(u,v)\in \fancyscript{B}_{1}}|\alpha _{1}u+\beta _{1}v||\beta _{u,v}|^2\Big )+o(\lambda ),\end{aligned}$$

(24)

$$\begin{aligned}&\displaystyle \sum _{(k,l)\in \Lambda _{\lambda }{\setminus }{\fancyscript{D}_{1}}}\left| \left| p_{1}\left( \frac{\chi _{1}^{k}\chi _{2}^l}{\overline{\alpha }}\right) \right| \right| _{2}^2 \; =\;o(\lambda ). \end{aligned}$$

(25)

Fig. 4

Lemmes techniques $1$ et $3$

Preuve du lemme 14

Démonstration du premier item.

Le côté $c_{1}$ est porté par la droite d’équation $\alpha _{1}x+\beta _{1}y=0$, avec $\alpha _{1}<0,\beta _{1}>0$. La droite parallèle à $c_{1}$ qui porte le segment $B_{1}B_{2}$ a pour équation $\alpha _{1}x+\beta _{1}y=ma \alpha _{1}$. Chaque point de $\fancyscript{D}_{1}$ se trouve sur une droite $D_{i}$ d’équation $\;\alpha _{1}x+\beta _{1}y=-i, \;\;\; 0\leqslant i\leqslant ma|\alpha _{1}|.\;$ On a l’inclusion

$$\begin{aligned} \fancyscript{D}_{1}\subseteq \big \{(k,l)\;:\;-m a\alpha _{1}<\alpha _{1}k+\beta _{1}l\leqslant 0,\;\;l\leqslant -\lambda \alpha _{1}\big \}. \end{aligned}$$

Si le point $(k,l)$ appartient à $D_{i}$, alors $(k-u,l-v)$ est dans $S_{1}^-$ si et seulement si $\alpha _{1}u+\beta _{1}v<-i.$ Cette condition ne dépend que de $D_{i}$ et non de $(k,l)\in D_{i}$. Pour tout $i\in \mathbb {N}\cap \big [0,ma|\alpha _{1}|\big ]$, posons

$$\begin{aligned} \Delta _{i}=\big \{(u,v)\in \fancyscript{C}_+\;:\;\alpha _{1}u+\beta _{1}v<-i\big \}. \end{aligned}$$

On a alors

$$\begin{aligned} \Delta _{i+1}\subset \Delta _{i}\quad \text{ et } \quad \Delta _{i}=\bigcup _{j>i}D_{j}\cap \fancyscript{C}_+. \end{aligned}$$

Alors, pour tout $(k,l)\in D_{i}$, on a $p_{1}(\chi _{1}^{k-u}\chi _{2}^{l-v})\not = 0$ si et seulement si $(u,v)\in \Delta _{i}$. On a donc

$$\begin{aligned} \sum _{(k,l)\in \fancyscript{D}_{1}}\left| \left| p_{1}\left( \frac{\chi _{1}^k\chi _{2}^l}{\overline{\alpha }_{}}\right) \right| \right| ^2=\sum _{i=0}^{ma|\alpha _{1}|}\sum _{(k,l)\in D_{i}\cap \fancyscript{D}_{1}}\;\;\;\sum _{(u,v)\in \Delta _{i}}|\beta _{uv}|^2. \end{aligned}$$

(26)

Pour estimer le nombre de points de $D_{i}$, noté $|D_{i}|$, examinons deux cas, suivant que $i$ soit divisible par $\alpha _{1}$ ou non. Pour tout entier $i$ divisible par $\alpha _{1}$ de $[0,ma\alpha _{1}]$, on a, compte tenu des coordonnées de $A_{1}$ et $A_{2}$ (voir sous-section 6) l’encadrement

$$\begin{aligned} \big |D_{ma\alpha _{1}}\cap \fancyscript{D}_{1}\big |=\big (|D_{0}\cap \fancyscript{D}_{1}|-m\big )+1\leqslant \big |D_{i}\cap \fancyscript{D}_{1}\big |\leqslant \big |D_{0}\cap \fancyscript{D}_{1}\big |=\lambda +1. \end{aligned}$$

L’égalité $|D_{ma}\cap \fancyscript{D}_{1}|=(|D_{0}\cap \fancyscript{D}_{1}|-m)+1$ résulte d’un calcul élémentaire et l’encadrement de $|D_{i}|$ pour $i$ divisible par $\alpha _{1}$ vient du fait que les points entiers de $D_{i}$ sont de la forme $(x+k,y)$ si $i=k\alpha _{1}$ et $(x,y)\in D_{0}$. Supposons maintenant que $i\in \big ]s|\alpha _{1}|,(s+1)|\alpha _{1}|\big [$ et $0\leqslant s< ma$ et notons $u$ et $v$ des coefficients de Bézout tels que $\alpha _{1}u+\beta _{1}v=1$. Remarquons que ces coefficients sont positifs car $\alpha _{1}<0$. La droite $D_{i}\cap {\mathbb {Z}}^2$ est alors la famille

$$\begin{aligned} \big \{(x_{n},y_{n}\big \}_{n\in {\mathbb {Z}}}\quad \text{ avec } \quad x_{n}=n\beta _{1}-ui\;\; \text{ et } \;\; y_{n}=n|\alpha _{1}|-vi. \end{aligned}$$

Comme la droite $D_{s|\alpha _{1}|}$ rencontre le côté $c_{2}$ en un point d’ordonnée $\lambda |\alpha _{1}|+\frac{s\alpha _{1}}{a}$, les points $(x_{n},y_{n})$ de $D_{i}\cap \Lambda _{\lambda }$ vérifient la contrainte

$$\begin{aligned} 0\leqslant y_{n}\leqslant \lambda |\alpha _{1}|+\frac{s\alpha _{1}}{a}. \end{aligned}$$

Ce qui donne l’encadrement de $n$ donné par

$$\begin{aligned} \frac{vi}{|\alpha _{1}|}\leqslant n\leqslant \frac{vi}{|\alpha _{1}|}+\lambda -\frac{s}{a} \end{aligned}$$

et qui montre, compte tenu de la majoration de $s$, que $\lambda -m\leqslant |D_{i}|\leqslant \lambda$. Ainsi, pour un choix de $m$ approprié $\big ($par exemple en prenant $m$ égal à la partie entière par défaut de $\lambda ^{1/2}\big )$ on a pour tout entier $i$ de $[0,ma\alpha _{1}]$ l’égalité $|D_{i}|=(\lambda +1)+o(\lambda )$. Par conséquent, en notant $o(1)$ un infiniment petit quand $\lambda$ tend vers $+\infty$, on a

$$\begin{aligned}&\sum _{(k,l)\in \fancyscript{D}_{1}}\left| \left| p_{1}\left( \frac{\chi _{1}^k\chi _{2}^l}{\overline{\alpha }}\right) \right| \right| ^2=(\lambda +1)\sum _{i=0}^{ma|\alpha _{1}|}\sum _{(u,v)\in \Delta _{i}}|\beta _{uv}|^2+o(\lambda )\sum _{i=0}^{ma|\alpha _{1}|}\sum _{(u,v)\in \Delta _{i}}|\beta _{uv}|^2. \end{aligned}$$

Évaluons l’un des termes:

$$\begin{aligned}&\sum _{i=0}^{ma|\alpha _{1}|}\sum _{(u,v)\in \Delta _{i}}|\beta _{uv}|^2=\sum _{\Delta _{0}}|\beta _{uv}|^2\;+\;\sum _{\Delta _{1}}|\beta _{uv}|^2\;+\;\cdots \;+\;\sum _{\Delta _{ma|\alpha _{1}|}}|\beta _{uv}|^2\\&\quad =\big (ma|\alpha _{1}|+1\big )\sum _{\Delta _{ma|\alpha _{1}|}\cap \fancyscript{C}_+}|\beta _{uv}|^2\;+\;\big (ma|\alpha _{1}|\big )\sum _{D_{ma|\alpha _{1}|}\cap \fancyscript{C}_+}|\beta _{uv}|^2\;+\;\cdots \;+\;\sum _{D_{1}\cap \fancyscript{C}_+}|\beta _{uv}|^2. \end{aligned}$$

On en déduit

$$\begin{aligned}&\sum _{(k,l)\in \fancyscript{D}_{1}}\left| \left| p_{1}\left( \frac{\chi _{1}^k\chi _{2}^l}{\overline{\alpha }_{}}\right) \right| \right| ^2\\&\quad =(\lambda +1)\left( (ma|\alpha _{1}|+1)\sum _{\Delta _{ma|\alpha _{1}|}\cap \fancyscript{C}_+}|\beta _{uv}|^2\;+\;\sum _{i=1}^{ma|\alpha _{1}|}\sum _{(u,v)\in D_{i}}|i||\beta _{u,v}|^2+o(1)\right) . \end{aligned}$$

Or si $(u,v)\in \Delta _{ma|\alpha _{1}|}\cap \fancyscript{C}_+$, on a $u> ma$, de sorte que

$$\begin{aligned} (ma|\alpha _{1}|+1)\sum _{\Delta _{ma|\alpha _{1}|}\cap \fancyscript{C}_+}|\beta _{uv}|^2\;\leqslant \; \left( |\alpha _{1}|+\frac{1}{ma}\right) \sum _{\Delta _{ma|\alpha _{1}|}\cap \fancyscript{C}_+}u|\beta _{uv}|^2=o(1), \end{aligned}$$

ce qui permet de conclure directement le premier item.

Démontstration du deuxième item.

En reprenant la même démarche que pour le premier item, on aboutit à l’égalité suivante analogue à l’égalité (26) :

$$\begin{aligned} \sum _{(k,l)\in \Lambda _{\lambda }{\setminus }{\fancyscript{D}_{1}}}\left| \left| p_{1}\left( \frac{\chi _{1}^k\chi _{2}^l}{\overline{\alpha }_{}}\right) \right| \right| ^2=\sum _{i=ma|\alpha _{1}|+1}^{\lambda a}\;\;\sum _{(k,l)\in D_{i}}\;\;\sum _{(u,v)\in \Delta (D_{i})}|\beta _{uv}|^2,\end{aligned}$$

Or pour $i>ma|\alpha _{1}|$, on a

$$\begin{aligned} \big |D_{i}\cap (\Lambda _{\lambda }{\setminus }\fancyscript{D}_{1})\big | \leqslant (\lambda -m)|\alpha _{1}|<\lambda |\alpha _{1}|, \end{aligned}$$

ce qui conduit, avec la même calcul que celui du premier point, à l’inégalité suivante:

$$\begin{aligned} \sum _{(k,l)\in \Lambda _{\lambda }{\setminus }{\fancyscript{D}_{1}}}\left| \left| p_{1}\left( \frac{\chi _{1}^k\chi _{2}^l}{\overline{\alpha }_{}}\right) \right| \right| ^2\leqslant ( \lambda -m)|\alpha _{1}|\sum _{(u,v)\in \fancyscript{C}_+{\setminus }\fancyscript{B}_{1}}|\alpha _{1}u+\beta _{1}v||\beta _{u,v}|^2. \end{aligned}$$

Et on conclut en notant que

$$\begin{aligned} \sum _{(u,v)\in \fancyscript{C}_+{\setminus }\fancyscript{B}_{1}}|\alpha _{1}u+\beta _{1}v||\beta _{u,v}|^2=o(1) \quad \text{ et } \quad \lambda -m=O(\lambda ). \end{aligned}$$

$\square$

Démonstration de la proposition 7

La proposition 7 résulte du lemme suivant.

Lemme 15

Conformément aux notations précédentes, $D_{i}$ désigne la droite d’équation $\alpha _{1}x+\beta _{1}y=-i$ où $i$ est un entier naturel et $\Delta _{i} =\bigcup _{j>i}D_{j}$. On se donne le quadruplet $(m,n,p,q)\in \mathbb {N}^4$ tel que $0\leqslant m<n\leqslant \lambda$ et $0\leqslant p<q\leqslant \lambda$. Il définit le parallélogramme $\Lambda _{(m,n,p,q)}$ délimité par les droites $D_{ma\alpha _{1}},D_{na\alpha _{1}}$ et les droites horizontales d’équations respectives $y=p|\alpha _{1}|$ et $y=q|\alpha _{1}|$, illustré par la Fig. 5. On posera de plus:

• $D_{i}(v_{0})=\big \{(u,v)\in D_{i}\;:\;v\geqslant v_{0}\big \}$,

  Fig. 5

  

  Lemme technique $2$

• $\Delta _{i}(v_{0})=\displaystyle \bigcup _{j>i}D_{j}(v_{0})$,

• $\Lambda _{(m,n,q,\infty )}=\fancyscript{C}_+\displaystyle \bigcap \left( \bigcup _{j=ma|\alpha _{1}|+1}^{na|\alpha _{1}|}D_{j}(q|\alpha _{1}|)\right) \quad$ (voir Fig. 5),

• $\Lambda _{(n,\infty ,pq)}= \fancyscript{C}_+\displaystyle \bigcap \left\{ (u,v)\in \mathbb {N}^2\;:\; v\in \big [p|\alpha _{1}|+1,q|\alpha _{1}|\big ]\right\} \displaystyle \bigcap \Delta _{na|\alpha _{1}|} \quad$ (voir Fig. 5).

Alors nous avons

$$\begin{aligned} \sum _{(k,l)\in \Lambda _{(m,n,p,q)}}\left| \left| p_{1}p_{3}\left( \frac{\chi _{1}^{k}\chi _{2}^l}{\overline{\alpha }}\right) \right| \right| _{2}^2=\sum _{i=1}^5T_{i}, \end{aligned}$$

où les termes $T_{i}$ sont des fonctions de $(m,n,p,q)$ définies par

$$\begin{aligned} \left\{ \begin{array}{lll} T_{1}&{}=&{}\big ((n-m)|\alpha _{1}|+1\big )\big ((q-p)|\alpha _{1}|+1\big )\displaystyle \sum _{\Delta _{na|\alpha _{1}|}(q|\alpha _{1}|)}|\beta _{u,v}|^2, \\ T_{2}&{}=&{}\big ((q-p)|\alpha _{1}|+1\big )\displaystyle \sum _{ \Lambda _{(m,n,q,\infty )}}\big (|\alpha _{1}u+\beta _{1}v|-ma|\alpha _{1}|\big )|\beta _{u,v}|^2,\\ T_{3}&{}=&{}\big ((n-m)|\alpha _{1}|+1\big )\displaystyle \sum _{ \Lambda _{(n,\infty ,p,q)}}\big (v-p|\alpha _{1}|\big )|\beta _{u,v}|^2,\\ T_{4}&{}=&{} \displaystyle \sum _{(u,v)\in \Lambda _{(m,n,p,q)}}|\alpha _{1}u+\beta _{1}v|(v-p|\alpha _{1}|)|\beta _{u,v}|^2,\\ T_{5}&{}=&{}-ma|\alpha _{1}|\displaystyle \sum _{(u,v)\in \Lambda _{(m,n,p,q)}}(v-p|\alpha _{1}|)|\beta _{u,v}|^2. \end{array}\right. \end{aligned}$$

Preuve du lemme 15

Tout point $(k,l)\in \Lambda _{(m,n,p,q)}$ appartient à une droite $D_{i}$ où $i$ est un entier de $\big [ ma\alpha _{1}, na\alpha _{1}\big ]$. Pour un point $(k,l)$ de $D_{i}$ et tout $(u,v)\in \fancyscript{C}$, on remarque que

$$\begin{aligned} (k-u,l-v)\in S_{1,0}^-\cup S_{3,0}^-=S_{1}^-\cup S_{3}^-\Longleftrightarrow (u,v)\in \Delta _{i}(l). \end{aligned}$$

Cette remarque permet la description suivante:

$$\begin{aligned} \sum _{(k,l)\in \Lambda _{(m,n,p,q)}}\left| \left| p_{1}p_{3}\left( \frac{\chi _{1}^{k}\chi _{2}^l}{\overline{\alpha }}\right) \right| \right| _{2}^2\;=\;\;\sum _{i=ma|\alpha _{1}|}^{na|\alpha _{1}|}\quad \sum _{(k,l)\in D_{i}\cap \Lambda _{(m,n,p,q)}}\quad \sum _{(u,v)\in \Delta _{i}(l)}|\beta _{u,v}|^2. \end{aligned}$$

Posons

$$\begin{aligned} \Gamma _{i}=\sum _{(k,l)D_{i}\cap \Lambda _{(m,n,p,q)}}\quad \sum _{(u,v)\in \Delta _{i}(l)}|\beta _{u,v}|^2. \end{aligned}$$

En remarquant que $\Delta _{j}(l+1)\subseteq \Delta _{j}(l)$, via un calcul analogue à celui de l’item $1$ du lemme 14, on obtient

$$\begin{aligned} \Gamma _{i}&= \sum _{\Delta _{i}(p|\alpha _{1}|)}|\beta _{u,v}|^2+\cdots +\sum _{\Delta _{i}(q|\alpha _{1}|)}|\beta _{u,v}|^2\\&= \big ((q-p)|\alpha _{1}|+1\big )\sum _{\Delta _{i}(q|\alpha _{1}|)}|\beta _{u,v}|^2+\sum _{(u,v)\in \Delta _{i}}\;\;\sum _{v=p|\alpha _{1}\lambda +1}^{q|\alpha _{1}|}(v-p|\alpha _{1}|)|\beta _{u,v}|^2. \end{aligned}$$

En posant

$$\begin{aligned} \tau _1=\big ((q-p)|\alpha _{1}|+1\big )\sum _{i=ma|\alpha _1|}^{na|\alpha _1|}\;\; \sum _{\Delta _{i}(q|\alpha _{1}|)}|\beta _{u,v}|^2 \end{aligned}$$

et

$$\begin{aligned} \tau _2=\sum _{i=ma|\alpha _1|}^{na|\alpha _1|}\;\;\sum _{(u,v)\in \Delta _{i}}\;\; \sum _{v=p|\alpha _{1}|\lambda +1}^{q|\alpha _{1}|}(v-p|\alpha _{1}|)|\beta _{u,v}|^2, \end{aligned}$$

on déduit l’égalité suivante:

$$\begin{aligned} \sum _{(k,l)\in \Lambda _{(m,n,p,q)}}\left| \left| p_{1}p_{3}\left( \frac{\chi _{1}^{k}\chi _{2}^l}{\overline{\alpha }}\right) \right| \right| _{2}^2=\tau _1+\tau _2. \end{aligned}$$

Passons à l’évaluation d’un autre terme. On a

$$\begin{aligned}&\displaystyle \frac{1}{\big ((q-p)|\alpha _{1}|+1\big )}\tau _1\\&\quad =\;\displaystyle \sum _{\Delta _{ma|\alpha _1|} (q|\alpha _1|)}|\beta _{u,v}|^2+\cdots +\displaystyle \sum _{\Delta _{na|\alpha _1|}(q|\alpha _1|)}|\beta _{u,v}|^2\\&\quad =\;\big ((n-m)a|\alpha _1|+1\big )\displaystyle \!\!\!\sum _{\Delta _{na|\alpha _1|}(q|\alpha _1|)}|\beta _{u,v}|^2+\displaystyle \!\!\!\sum _{j=ma|\alpha _1|+1}^{na|\alpha _1|}\;\;\displaystyle \sum _{(u,v)\in D_{_j}(q|\alpha _1|)}(j-ma|\alpha _{1}|)|\beta _{u,v}|^2\\&\quad =\;\big ((n-m)a|\alpha _1|+1\big )\displaystyle \sum _{\Delta _{na|\alpha _1|}(q|\alpha _1|)}|\beta _{u,v}|^2+\displaystyle \sum _{\Lambda _{(m,n,q,\infty )}}\big (|\alpha _1 u+\beta _1 v|-ma|\alpha _1|\big )\big |\beta _{u,v}\big |^2, \end{aligned}$$

par définition de $D_{_j}(q|\alpha _1|)$ et de $\Lambda _{(m,n,q,\infty )}$. On a donc $\tau _{1}=T_{1}+T_{2}$.

Évaluation de $\tau _2.$ En posant

$$\begin{aligned} \gamma _v=\sum _{i=ma|\alpha _1|}^{na|\alpha _1|}\;\;\sum _{(u,v)\in \Delta _i}(v-p|\alpha _1|)|\beta _{u,v}|^2, \end{aligned}$$

on peut écrire

$$\begin{aligned} \tau _2=\sum _{v=p|\alpha _1|+1}^{q|\alpha _1|}\gamma _v. \end{aligned}$$

La remarque utilisée déjà dans le lemme 14, à savoir $\Delta _{i+1}\subseteq \Delta _i$ permet d’obtenir une estimation de $\gamma _v$ par un calcul analogue à celui de $\Gamma _{i}$ :

$$\begin{aligned} \begin{array}{lll} \gamma _v&{}=&{}\displaystyle \sum _{(u,v)\in \Delta _{ma|\alpha _1|}}(v-p|\alpha _1|)+\ldots +\displaystyle \sum _{(u,v)\in \Delta _{na|\alpha _1|}}(v-p|\alpha _1|)\\ &{}=&{}\big ((n-m)a|\alpha _1|+1\big )\displaystyle \sum _{(u,v)\in \Delta _{na|\alpha _{1}|}}(v-p|\alpha _1|)|\beta _{u,v}|^2\\ &{}&{}+\displaystyle \sum _{j=ma|\alpha _{1}|}^{na|\alpha _{1}|}\;\; \displaystyle \sum _{(u,v)\in D_{j}}(j-ma|\alpha _{1}|)(v-p|\alpha _{1}|)\beta _{u,v}|^2. \end{array} \end{aligned}$$

Ainsi, en posant

$$\begin{aligned} \nu _{1}=\big ((n-m)a|\alpha _1|+1\big )\displaystyle \sum _{v=p|\alpha _{1}|+1}^{q|\alpha _{1}|}\;\;\displaystyle \sum _{(u,v)\in \Delta _{na|\alpha _{1}|}}(v-p|\alpha _1|)|\beta _{u,v}|^2 \end{aligned}$$

et

$$\begin{aligned} \nu _{2}=\displaystyle \sum _{v=p|\alpha _{1}|+1}^{q|\alpha _{1}|}\;\;\displaystyle \sum _{j=ma|\alpha _{1}|}^{na|\alpha _{1}|}\;\;\displaystyle \sum _{(u,v)\in D_{j}}(j-ma|\alpha _{1}|)(v-p|\alpha _{1}|)|\beta _{u,v}|^2, \end{aligned}$$

on obtient $\tau _{2}=\nu _{1}+\nu _{2}$. Reste à remarquer que $\nu _{1}=T_{3}$ et $\nu _{2}=T_{4}+T_{5}$ et que $\tau _{2}=T_{3}+T_{4}+T_{5}$. Le compte y est. $\square$

Preuve du corollaire 7

Soit $A_{0}$ le point du côté $OA_{1}$ d’ordonnée $m\alpha _{1}$ et $B_{3}$ le point intérieur au segment $B_{2}B_{1}$ d’ordonnée $m\alpha _{1}$ (voir Fig. 4). Le polygone $\Lambda _{\lambda }$ est inclus dans la réunion des trois parallélogrammes $OA_{0}B_{3}B_{2}$, $A_{0}A_{1}C_{1}B_{3}$ et $B_{2}C_{1}C_{2}A_{2}$ (voir Fig. 4) où, rappelons-le, $B_{2}$ est le point de coordonnées $(ma,0)$, $0\leqslant m\leqslant \lambda$. Par définition de $\Lambda _{(m,n,p,q)}$, on a

$$\begin{aligned} OA_{0}B_{3}B_{2}=\Lambda _{(0,m,0,m)}, \quad A_{0}A_{1}C_{1}B_{3}=\Lambda _{(0,m,m,\lambda )}\quad \text{ et }\quad B_{2}C_{1}C_{2}A_{2}=\Lambda _{(m,\lambda ,0,\lambda )} \end{aligned}$$

et on a la majoration

$$\begin{aligned}&\displaystyle \sum _{(k,l)\in \Lambda _{\lambda }}\left| \left| p_{1}p_{3}\left( \frac{\chi _{1}^{k}\chi _{2}^l}{\overline{\alpha }}\right) \right| \right| _{2}^2 \displaystyle \leqslant \; \;\; \displaystyle \sum _{(k,l)\in \Lambda _{(0,m,m,\lambda )}}\left| \left| p_{1}p_{3}\left( \frac{\chi _{1}^{k}\chi _{2}^l}{\overline{\alpha }}\right) \right| \right| _{2}^2\\&\quad +\!\!\!\displaystyle \sum _{(k,l)\in \Lambda _{(m,\lambda ,0,\lambda })}\left| \left| p_{1}p_{3}\left( \frac{\chi _{1}^{k}\chi _{2}^l}{\overline{\alpha }}\right) \right| \right| _{2}^2+\sum _{(k,l)\in \Lambda _{(0,m,0,m)}}\left| \left| p_{1}p_{3}\left( \frac{\chi _{1}^{k}\chi _{2}^l}{\overline{\alpha }}\right) \right| \right| _{2}^2. \end{aligned}$$

Chacune des sommes de droite relève du lemme 15. En choisissant $m=\lfloor \sqrt{\lambda }\rfloor$, on obtient le tableau suivant qui résume le comportement asymptotique des termes $\{T_{i}\}_{i=1,\ldots ,5}\;$ définis dans le lemme 15 et, en fin de compte, des trois termes du majorant de

$$\begin{aligned} \sum _{(k,l)\in \Lambda _{\lambda }}\left| \left| p_{1}p_{3} \left( \frac{\chi _{1}^{k}\chi _{2}^l}{\overline{\alpha }}\right) \right| \right| _{2}^2 \end{aligned}$$

lorsque $\lambda$ tend vers l’infini.

$(m,n,p,q)$	$\big (0,\lfloor \sqrt{\lambda }\rfloor , \lfloor \sqrt{\lambda }\rfloor ,\lambda \big )$	$\big (\lfloor \sqrt{\lambda }\rfloor , \lambda ,0,\lambda \big )$	$\big (0,\lfloor \sqrt{\lambda }\rfloor ,0, \lfloor \sqrt{\lambda }\rfloor \big )$
$T_{1}$	$\sqrt{\lambda }\;o(1)$	$\lambda \;o(1)$	$\sqrt{\lambda }\;o(1)$
$T_{2}$	$\lambda \;o(1)$	$\lambda \;o(1)$	$\sqrt{\lambda }\;o(1)$
$T_{3}$	${\lambda }\;o(1)$	$\lambda \;o(1)$	$\sqrt{\lambda }\;o(1)$
$T_{4}$	$\lambda \;o(1)$	$\lambda \;o(1)$	$\lambda \;O(1)$
$T_{5}$	0	$\sqrt{\lambda }\;o(1)$	0
$\sum _{i=1}^5T_{i}$	$o(\lambda )$	$o(\lambda )$	$o(\lambda )$

Montrons (voir la deuxième colonne du tableau) que

$$\begin{aligned} \displaystyle \sum _{(k,l)\in \Lambda _{(0,m,m,\lambda )}}\left| \left| p_{1}p_{3}\left( \frac{\chi _{1}^{k}\chi _{2}^l}{\overline{\alpha }}\right) \right| \right| _{2}^2=o(\lambda ). \end{aligned}$$

Remarquons d’abord que

$$\begin{aligned} T_{1}(0,\lfloor \sqrt{\lambda }\rfloor ,\lfloor \sqrt{\lambda }\rfloor ,\lambda )&=(\lfloor \sqrt{\lambda }\rfloor |\alpha _{1}|+1)\big ((\lambda -\sqrt{\lambda })\big |\alpha _{1}|+1\big )\;\;\sum _{\Delta _{_{\lfloor \sqrt{\lambda }\rfloor a|\alpha _{1}|}}(\lambda |\alpha _{1}|)}|\beta _{u,v}|^2\\&\leqslant (\lfloor \sqrt{\lambda }\rfloor |\alpha _{1}|+1)\;\;\sum _{\Delta _{_{\lfloor \sqrt{\lambda }\rfloor a|\alpha _{1}|}}(\lambda |\alpha _{1}|)}v|\beta _{u,v}|^2, \end{aligned}$$

puisque $v>\lambda |\alpha _{1}|$ lorsque $(u,v)\in \Delta _{_{\lfloor \sqrt{\lambda }\rfloor a|\alpha _{1}|}}(\lambda |\alpha _{1}|)$. Compte tenu du lemme 12 et des hypothèses du théorème 3, la somme

$$\begin{aligned} \sum _{\Delta _{_{\lfloor \sqrt{\lambda }\rfloor a|\alpha _{1}|}}(\lambda |\alpha _{1}|)}v|\beta _{u,v}|^2 \end{aligned}$$

est le reste d’une série convergente et on conclut que

$$\begin{aligned} T_{1}(0,\lfloor \sqrt{\lambda }\rfloor ,0,\lambda )=\sqrt{\lambda }\;o(1). \end{aligned}$$

De plus,

$$\begin{aligned} T_{2}(0,\lfloor \sqrt{\lambda }\rfloor ,\lfloor \sqrt{\lambda }\rfloor ,\lambda )=\big ((\lambda -\sqrt{\lambda })|\alpha _{1}|+1\big )\sum _{ \Lambda _{(0,\lfloor \sqrt{\lambda }\rfloor ,\lambda ,\infty )}}\big |\alpha _{1}u+\beta _{1}v\big |\big |\beta _{u,v}|^2={\lambda }\;o(1), \end{aligned}$$

car la somme est, comme ci-dessus, un reste de série convergente. Pour la même raison,

$$\begin{aligned} T_{3}(0,\lfloor \sqrt{\lambda }\rfloor ,\lfloor \sqrt{\lambda }\rfloor ,\lambda )=\big (\lfloor \sqrt{\lambda }\rfloor |\alpha _{1}|+1\big )\sum _{ \Lambda _{(\lfloor \sqrt{\lambda }\rfloor ,\infty ,\lfloor \sqrt{\lambda }\rfloor ,\lambda )}}\big (v-\lfloor \sqrt{\lambda }\rfloor |\alpha _{1}|\big )|\beta _{u,v}|^2={\lambda }\;o(1). \end{aligned}$$

Enfin, en remarquant que

$$\begin{aligned} \frac{\big (v-\lfloor \sqrt{\lambda }\rfloor |\alpha _{1}|\big )}{\lambda }=O(1)\quad \text{ sur } \quad \Lambda _{(0,\lfloor \sqrt{\lambda }\rfloor ,\lfloor \sqrt{\lambda }\rfloor ,\lambda )}\,, \end{aligned}$$

on a

$$\begin{aligned} \begin{array}{lll} T_{4}(0,\lfloor \sqrt{\lambda }\rfloor ,\lfloor \sqrt{\lambda }\rfloor ,\lambda )&{}=&{}\displaystyle \sum _{(u,v)\in \Lambda _{(0,\lfloor \sqrt{\lambda }\rfloor ,\lfloor \sqrt{\lambda }\rfloor ,\lambda )}}|\alpha _{1}u+\beta _{1}v|(v-\lfloor \sqrt{\lambda }\rfloor |\alpha _{1}|)|\beta _{u,v}|^2\\ &{}=&{}\lambda O(1) o(1)\;\;=\;\;\lambda o(1), \end{array} \end{aligned}$$

ce qui justifie les éléments de la deuxième colonne, puisque

$$\begin{aligned} T_{5}\left( 0,\lfloor \sqrt{\lambda }\rfloor ,\lfloor \sqrt{\lambda }\rfloor ,\lambda \right) =0. \end{aligned}$$

La justification des termes des troisième et quatrième colonnes est du même ordre. $\square$

Démonstration de la proposition 8

La proposition 8 résulte du lemme suivant.

Lemme 16

En plus des notations du corollaire 5, on pose $Z$ l’opérateur défini sur $\fancyscript{P}(\Lambda _{\lambda })$ par

$$\begin{aligned} Z(q)=\Pi _{1}\left( \frac{\alpha }{\bar{\alpha }}\Pi _{2}\left( \frac{q}{\alpha }\right) \right) . \end{aligned}$$

• (i) Alors $\;||\fancyscript{W}||_{\Lambda _{\lambda }}=o\left( \sqrt{\lambda }\right)$.

• (ii) De plus, $\;||Z||_{\Lambda _{\lambda }}=o\big (\sqrt{\lambda }\big )$.

Preuve du lemme 16

(i) On considère les projections $p_{11},p_{13}$ définies au début de la preuve du lemme 13. En décomposant $\Pi _{1}$ sous la forme $\Pi _{1}=p_{11}+p_{13}+p_{1}p_{3}$, (somme de trois projections orthogonales sur trois espace de polynômes de spectres deux à deux disjoints), on peut écrire par inégalité triangulaire sur les norme de Hilbert-Schmidt que

$$\begin{aligned} ||\fancyscript{W}||_{\Lambda }\leqslant ||\fancyscript{W}_{1}||_{\Lambda }+||\fancyscript{W}_{2}||_{\Lambda }+||\fancyscript{W}_{3}||_{\Lambda } \end{aligned}$$

avec

$$\begin{aligned} \left\{ \begin{array}{lll} ||\fancyscript{W}_{1}||^2_{\Lambda }&{}=&{}\displaystyle \sum _{(k,l)\in \Lambda } \left| \left| \Pi _{2} \left( \frac{\bar{\alpha }}{\alpha }\;p_{11} \Bigg (\frac{\chi _{1}^k\chi _{2}^l}{\bar{\alpha }} \Bigg )\right) \right| \right| ^2,\\ ||\fancyscript{W}_{2}||^2_{\Lambda }&{}=&{} \displaystyle \sum _{(k,l)\in \Lambda }\left| \left| \Pi _{2}\left( \frac{\bar{\alpha }}{\alpha }\;p_{13}\Bigg (\frac{\chi _{1}^k\chi _{2}^l}{\bar{\alpha }} \Bigg )\right) \right| \right| ^2, \\ ||\fancyscript{W}_{3}||^2_{\Lambda }&{}=&{}\displaystyle \sum _{(k,l)\in \Lambda }\left| \left| \Pi _{2}\left( \frac{\bar{\alpha }}{\alpha }\;p_{1}p_{3}\Bigg (\frac{\chi _{1}^k\chi _{2}^l}{\bar{\alpha }}\Bigg )\right) \right| \right| ^2. \end{array}\right. \end{aligned}$$

Évaluons $||\fancyscript{W}_{1}||^2_{\Lambda }$. On peut écrire conformément à la figure 4,

$$\begin{aligned} ||\fancyscript{W}_{1}||^2_{\Lambda }= ||\fancyscript{W}_{1}||^2_{\fancyscript{D}_{1}}+ ||\fancyscript{W}_{1}||^2_{\Lambda {\setminus }\fancyscript{D}_{1}}. \end{aligned}$$

Soit $\fancyscript{C}_{m}$ le paraléllogramme $OA_{0}B_{3}B_{2}$ de la Fig. 4 où $m$ est défini comme dans le lemme 14. On considère alors le polynôme

$$\begin{aligned} \frac{1}{\alpha _{m}}=\displaystyle \sum _{(u,v)\in \fancyscript{C}_{m}}\beta _{u,v}\chi _{1}^{u}\chi _{2}^v. \end{aligned}$$

Grâce à l’inégalité triangulaire dans la norme $||.||_{\fancyscript{D}_{1}}$, on a

$$\begin{aligned}&||\fancyscript{W}||_{\fancyscript{D}_{1}}\;\leqslant \; \left( \sum _{\fancyscript{D}_{1}}\left| \left| \Pi _{2}\left( \frac{\bar{\alpha }}{\alpha _{m}}p_{11} \Bigg (\frac{\chi _{1}^k\chi _{2}^l}{\bar{\alpha }}\Bigg )\right) \right| \right| _{2}^2\right) ^{1/2}\\&\quad +\,\,\left( \sum _{\fancyscript{D}_{1}}\left| \left| \Pi _{2}\left( \bar{\alpha }\left( \frac{1}{\alpha }-\frac{1}{\alpha _{m}}\right) p_{11}\Bigg (\frac{\chi _{1}^k\chi _{2}^l}{\bar{\alpha }}\Bigg )\right) \right| \right| _{2}^2\right) ^{1/2}. \end{aligned}$$

Or d’une part, on a sur $\fancyscript{D}_{1}$ l’égalité

$$\begin{aligned} \Pi _{2}\left( \frac{\bar{\alpha }}{\alpha _{m}}p_{11}\Bigg (\frac{\chi _{1}^k\chi _{2}^l}{\bar{\alpha }}\Bigg )\right) =0. \end{aligned}$$

D’autre part, on a les majorations

$$\begin{aligned}&\sqrt{ \displaystyle \sum _{\fancyscript{D}_{1}} \left| \left| \Pi _{2} \left( \bar{\alpha }\left( \frac{1}{\alpha }-\frac{1}{\alpha _{m}} \right) p_{11} \Bigg (\frac{\chi _{1}^k\chi _{2}^l}{\bar{\alpha }} \Bigg ) \right) \right| \right| _{2}^2 \; }\\&\quad \leqslant ||\alpha ||_{\infty }\left| \left| \frac{1}{\alpha }-\frac{1}{\alpha _{m}} \right| \right| _{\infty } \sqrt{ \displaystyle \sum _{\fancyscript{D}_{1}}\left| \left| p_{11}\Bigg (\frac{\chi _{1}^k\chi _{2}^l}{\bar{\alpha }}\Bigg )\right| \right| _{2}^2 }\\&\quad \leqslant \left| \left| \alpha ||_{\infty }||\frac{1}{\alpha }-\frac{1}{\alpha _{m}} \right| \right| _{\infty } \sqrt{ \displaystyle \sum _{\fancyscript{D}_{1}}\left| \left| p_{1}\Bigg (\frac{\chi _{1}^k\chi _{2}^l}{\bar{\alpha }}\Bigg )\right| \right| _{2}^2 } \end{aligned}$$

grâce à l’égalité (23). On déduit du premier point du lemme 14 que

$$\begin{aligned} ||\fancyscript{W}||_{\fancyscript{D}_{1}}\;=\;o(1)O(\sqrt{\lambda })\;=\;o(\sqrt{\lambda }). \end{aligned}$$

Par ailleurs,

$$\begin{aligned} ||\fancyscript{W}_{1}||^2_{\Lambda {\setminus }\fancyscript{D}_{1}}\leqslant \sum _{\Lambda {\setminus }\fancyscript{D}_{1}}\left| \left| p_{1}\left( \frac{\chi _{1}^k\chi _{2}^l}{\bar{\alpha }}\right) \right| \right| ^2=o(\lambda ) \end{aligned}$$

d’après le deuxième point du lemme 14. On a en fin de compte $||\fancyscript{W}_{1}||_{\Lambda }=o({\sqrt{\lambda }})$. Pour des raisons de symétrie, on a également $||\fancyscript{W}_{2}||_{\Lambda }=o(\sqrt{\lambda }).$ Reste à évaluer $||\fancyscript{W}_{3}||_{\Lambda }$. D’après le corollaire 7, on a

$$\begin{aligned} ||\fancyscript{W}_{3}||^2_{\Lambda }= \displaystyle \sum _{(k,l)\in \Lambda }\left| \left| \Pi _{2}\left( \frac{\bar{\alpha }}{\alpha } p_{1}p_{3}\left( \frac{\chi _{1}^k\chi _{2}^l}{\bar{\alpha }}\right) \right) \right| \right| _{2}^2\leqslant \sum _{\Lambda }\left| \left| p_{1}p_{3}\left( \frac{\chi _{1}^k\chi _{2}^l}{\bar{\alpha }}\right) \right| \right| _{2}^2 =o(\lambda ) \end{aligned}$$

et on conclut.

(ii) Afin d’obtenir des majorations suffisamment fines, on considère la partition de $\Lambda _{\lambda }$ représentée par la Fig. 6 où $A_{0}=(m|\alpha _{1}|,m|\alpha _{1}|),A_{5}$ est le point de $c_{2}$ d’ordonnée $m|\alpha _{1}|$, $B_{2}=(ma,0),A_{4}=((\lambda -m)a,0), A_{2}=(\lambda ,0)$, le segment $A_{4}A_{3}$ est parallèle au côté $c_{2}$, le segment $B_{2}B_{1}$ est parallèle au côté $c_{1}$. Enfin $B_{4}$ est l’intersection des droites $(A_{0}A_{5})$ et $(B_{1}B_{2})$.

Fig. 6

Calcul 2

Alors $D_{12}$ est l’intersection avec ${\mathbb {Z}}^2$ du parallélogramme de $\mathbb {R}^2$ fermé $A_{3}A_{1}B_{1}B_{3}$, de même $D_{13}$ est l’intersection avec ${\mathbb {Z}}^2$ du parallélogramme fermé $A_{2}A_{4}A_{6}A_{5}$, on note $D_{2}$ l’intersection avec ${\mathbb {Z}}^2$ du quadrilatère fermé $B_{3}B_{1}A_{5}A_{6}$. On a alors $\fancyscript{D}_{2}= \Lambda _{\lambda }{\setminus } (D_{12}\cup D_{2}\cup D_{13})$. Pour finir, $\fancyscript{C}_{m}$ est l’intersection avec ${\mathbb {Z}}^2$ du parallélogramme de $\mathbb {R}^2$ fermé $OA_{0}B_{4}B_{2}$.

Décomposons $||Z||^2_{\Lambda _{\lambda }}$ sous la forme

$$\begin{aligned} ||Z||^2_{\Lambda _{\lambda }}=||Z||^2_{D_{12}}+||Z||^2_{D_{13}}+||Z||^2_{D_{2}}+||Z||^2_{\fancyscript{D}_{2}}. \end{aligned}$$

La démarche pour l’évaluation des termes $||Z||^2_{D_{12}}, ||Z||^2_{D_{13}},||Z||^2_{\fancyscript{D}_{2}}$ est calquée en partie sur le lemme 14. Cette démarche ne s’appliquera pas pour le terme $||Z||^2_{ D_{2}}$ car elle conduit alors à une estimation trop grossière. Nous développons ce calcul en deux étapes.

1) Estimation de $||Z||^2_{D_{12}}, ||Z||^2_{D_{13}},||Z||^2_{\fancyscript{D}_{2}}$. Pour ces trois quantités on a les majorations

$$\begin{aligned} \left\{ \begin{array}{lll} ||Z||^2_{\fancyscript{D}_{2}}&{}\leqslant &{} \displaystyle \sum _{(k,l)\in \fancyscript{D}_{2}}\left| \left| \Pi _{2}\Big (\frac{\chi _{1}^k\chi _{2}^l}{\alpha }\Big ) \right| \right| _{2}^2\;,\\ |Z||^2_{D_{12}}&{}\leqslant &{} \displaystyle \sum _{(k,l)\in D_{12}}\left| \left| \Pi _{2}\big (\frac{\chi _{1}^k\chi _{2}^l}{\alpha }\big )\right| \right| _{2}^2\;,\\ ||Z||^2_{D_{13}}&{}\leqslant &{}\displaystyle \sum _{(k,l)\in D_{13}}\left| \left| \Pi _{2}\big (\frac{\chi _{1}^k\chi _{2}^l}{\alpha }\big ) \right| \right| _{2}^2\;. \end{array} \right. \end{aligned}$$

En vue d’estimer les trois majorants précédents, introduisons quelques notations.

Le côté $c_{2}$ est porté, conformément à la Fig. 2 par la droite d’équation $\alpha _{2}x+\beta _{2}y=\lambda a\alpha _{2}$ et le segment$A_{3}A_{4}$ par la droite $\alpha _{2}x+\beta _{2}y=(\lambda -m) a\alpha _{2}$. Tout point entier $(k,l)$ de $\Lambda _{\lambda }$ appartient à une droite $d_{i}$ d’équation $\alpha _{2}x+\beta _{2}y=i$, où $i$ est un entier naturel vérifiant

$$\begin{aligned} \left\{ \begin{array}{lll} (\lambda -m)a\alpha _{2}\leqslant i\leqslant \lambda a\alpha _{2}&{}\text {si}\;d_{i}\cap ( \Lambda _{\lambda }{\setminus } \fancyscript{D}_{2})\not =\emptyset \\ 0\leqslant i\leqslant (\lambda -m)a\alpha _{2}&{}\text {si}\; d_{i}\cap \fancyscript{D}_{2}\not =\emptyset . \end{array}\right. \end{aligned}$$

Si on pose

$$\begin{aligned} \Gamma _{i}=\left\{ (u,v)\in \fancyscript{C}_+\;;\; \alpha _{2}u+\beta _{2}v>\lambda a\alpha _{2}-i\right\} , \end{aligned}$$

alors un point entier $(k,l)$ de $d_{i}$ vérifie $\Pi _{2}(\chi _{1}^k\chi _{2}^l)\not = 0$ si et seulement si $(u,v)\in \Gamma _{i}$.

De façon analogue au début de la démonstration du lemme 14, on peut maintenant écrire

$$\begin{aligned} \sum _{(k,l)\in {\fancyscript{D}}_{2}}\left| \left| \Pi _{2}\left( \frac{\chi _{1}^k\chi _{2}^l}{\alpha }\right) \right| \right| _{2}^2=\sum _{i=0}^{(\lambda -m)a\alpha _{2}}\sum _{(k,l)\in d_{i}\cap \fancyscript{D}_{2}} \;\sum _{(u,v)\in \Gamma _{i}}|\beta _{u,v}|^2. \end{aligned}$$

Or $|d_{i}\cap \fancyscript{D}_{2}|\leqslant O(\lambda -m)$; d’où

$$\begin{aligned} \sum _{(k,l)\in \fancyscript{D}_{2}}\left| \left| \Pi _{2}\left( \frac{\chi _{1}^k\chi _{2}^l}{\alpha }\right) \right| \right| _{2}^2\leqslant O(\lambda -m)\sum _{i=0}^{(\lambda -m)a\alpha _{2}}\sum _{(u,v)\in \Gamma _{i}}|\beta _{u,v}|^2. \end{aligned}$$

Par le même procédé de sommation que dans la fin de la démonstration du premier item du lemme 14, mais en tenant compte maintenant des inclusions $\Gamma _{i}\subseteq \Gamma _{i+1}$, on obtient

$$\begin{aligned}&\displaystyle \sum _{(k,l)\in \fancyscript{D}_{2}}\left| \left| \Pi _{2}\left( \frac{\chi _{1}^k\chi _{2}^l}{\alpha }\right) \right| \right| _{2}^2\leqslant \; O(\lambda -m)\big ((\lambda -m)a\alpha _{2}+1\big )\displaystyle \sum _{\Gamma _{0}}| \beta _{u,v}|^2\;+\;O(\lambda -m)\\&\quad \displaystyle \sum _{i=ma\alpha _{2}+1}^{\lambda a\alpha _{2}}(i-ma\alpha _{2})\displaystyle \sum _{(u,v)\in d_{i}}|\beta _{u,v}|^2. \end{aligned}$$

Par ailleurs, on a les relations

$$\begin{aligned} \begin{array}{lll} 0\leqslant \displaystyle \sum _{i=ma\alpha _{2}+1}^{\lambda a\alpha _{2}}(i-ma\alpha _{2})\sum _{(u,v)\in d_{i}}|\beta _{u,v}|^2&{}\leqslant &{}\displaystyle \sum _{i=ma\alpha _{2}+1}^{\lambda a\alpha _{2}}\;\displaystyle \sum _{(u,v)\in d_{i}}i|\beta _{u,v}|^2\\ &{}=&{}\displaystyle \sum _{i=ma\alpha _{2}+1}^{\lambda a\alpha _{2}}\;\displaystyle \sum _{(u,v)\in d_{i}}(\alpha _{2}u+\beta _{2}v)|\beta _{u,v}|^2. \end{array} \end{aligned}$$

En fin de compte, on a

$$\begin{aligned} \sum _{(k,l)\in \fancyscript{D}_{2}}\left| \left| \Pi _{2}\left( \frac{\chi _{1}^k\chi _{2}^l}{\alpha }\right) \right| \right| ^2\leqslant t_{1}+t_{2} \end{aligned}$$

où

$$\begin{aligned} t_{1}=O(\lambda -m)\big ((\lambda -m)a\alpha _{2}+1\big ) \sum _{\Gamma _{0}}|\beta _{u,v}|^2 \quad \text{ et } \quad t_{2}=O(\lambda -m)\sum _{\fancyscript{D}_{m,\lambda }}(\alpha _{2}u+\beta _{2}v)|\beta _{u,v}|^2, \end{aligned}$$

en désignant par $\fancyscript{D}_{m,\lambda }$ la bande incluse dans $\Lambda _{\lambda }$ entre les droites $d_{ma\alpha _{2}+1}$ et $d_{\lambda a\alpha _{2}}$.

Donnons maintenant une estimation asymptotique de $t_{1}$ et $t_{2}$ en prenant $m=\lfloor \sqrt{\lambda }\rfloor$. On a l’inclusion $\Gamma _{0}\subseteq \mathbb S_{2}^-$ et par conséquent, si $(u,v)\in \Gamma _{0}$, on a $\alpha _{2}u+\beta _{2}v\geqslant \lambda a\alpha _{2}.$ Ainsi

$$\begin{aligned} t_{1}\leqslant O(\lambda -m)\sum _{\fancyscript{C}_+\cap \mathbb S_{2}^-}(\alpha _{2}u+\beta _{2}v)|\beta _{u,v}|^2=O(\lambda -m)o(1)=o(\lambda ) \end{aligned}$$

par le premier item du lemme 12. De la même manière $t_{2}=o(\lambda )$ suite au choix de $m$ et grâce au premier item du lemme 12. Ainsi

$$\begin{aligned} \sum _{(k,l)\in \fancyscript{D}_{2}}\left| \left| \Pi _{2}\big (\frac{\chi _{1}^k\chi _{2}^l}{\alpha }\big )\right| \right| _{2}^2=o(\lambda ). \end{aligned}$$

Avec la même idée, on obtient pour la somme $\sum _{(k,l)\in D_{12}}\left| \left| \Pi _{2}\big (\frac{\chi _{1}^k\chi _{2}^l}{\alpha }\big )\right| \right| _{2}^2$:

$$\begin{aligned} \sum _{(k,l)\in D_{12}}\left| \left| \Pi _{2}\big (\frac{\chi _{1}^k\chi _{2}^l}{\alpha }\big )\right| \right| _{2}^2=\sum _{i=(\lambda -m)a\alpha _{2}}^{\lambda a\alpha _{2}}\sum _{(k,l)\in d_{i}\cap D_{12}}\sum _{(u,v)\in \Gamma _{i}}|\beta _{u,v}|^2 \end{aligned}$$

et la majoration $|d_{i}\cap D_{12}|\leqslant O(m)$ conduit par un calcul parallèle au calcul précédent à l’estimation :

$$\begin{aligned}&\sum _{(k,l)\in D_{12}}\left| \left| \Pi _{2}\big (\frac{\chi _{1}^k\chi _{2}^l}{\alpha }\big )\right| \right| _{2}^2\\&\quad \leqslant O(m)\;ma\alpha _{2}\sum _{(u,v)\in \Gamma _{(\lambda -m)a\alpha _{2}}}|\beta _{u,v}|^2+O(m)\;\sum _{i=1}^{m a\alpha _{2}}\sum _{(u,v)\in d_{i}}(\alpha _{2}u+\beta _{2}v)|\beta _{u,v}|^2. \end{aligned}$$

Or si $(u,v)\in \Gamma _{(\lambda -m)a\alpha _{2}}$, on a $\alpha _{2}u+\beta _{2}v>ma\alpha _{2}$. Par conséquent, on peut écrire:

$$\begin{aligned} O(m)\;ma\alpha _{2}\sum _{(u,v)\in \Gamma _{(\lambda -m)a\alpha _{2}}}|\beta _{u,v}|^2 <O(m)\sum _{(u,v)\in \Gamma _{(\lambda -m)a\alpha _{2}}}(\alpha _{2}u+\beta _{2}v)|\beta _{u,v}|^2=o(1), \end{aligned}$$

avec toujours le choix $m=\lfloor \sqrt{\lambda }\rfloor$ et le premier item du lemme 12. De plus,

$$\begin{aligned} \sum _{(u,v)\in d_{i}}(\alpha _{2}u+\beta _{2}v)|\beta _{u,v}|^2 =O(1), \end{aligned}$$

toujours d’après le premier item du lemme 12. On en conclut que

$$\begin{aligned} \sum _{(k,l)\in D_{12}}\left| \left| \Pi _{2}\big (\frac{\chi _{1}^k\chi _{2}^l}{\alpha }\big )\right| \right| _{2}^2=O(\lfloor \sqrt{\lambda }\rfloor )=o(\lambda ). \end{aligned}$$

(27)

Pour des raisons de symétrie on a également

$$\begin{aligned} \sum _{(k,l)\in D_{13}}\left| \left| \Pi _{2}\big (\frac{\chi _{1}^k\chi _{2}^l}{\alpha }\big )\right| \right| _{2}^2=o(\lambda ). \end{aligned}$$

2) Estimation de $||Z||^2_{D_{2}}$.

On a

$$\begin{aligned} ||Z||^2_{D_{2}}=\sum _{D_{2}}||\Pi _{1}\left( \frac{\alpha }{\bar{\alpha }}\Pi _{2}\big (\frac{q}{\alpha }\big )\right) ||^2. \end{aligned}$$

On pose

$$\begin{aligned} \frac{1}{\alpha _{m}}=\displaystyle \sum _{(u,v)\in \fancyscript{C}_{m}}\beta _{u,v}\chi _{1}^k\chi _{2}^l. \end{aligned}$$

On écrit alors:

$\sum _{D_{2}}||\Pi _{1}\left( \frac{\alpha }{\bar{\alpha }}\Pi _{2}\big (\frac{q}{\alpha }\big )\right) ||^2= \sum _{D_{2}}||\Pi _{1}\left( \frac{\alpha }{\bar{\alpha }_{m}}\Pi _{2}\big (\frac{q}{\alpha }\big )\right) + \Pi _{1}\left( \alpha \big (\frac{1}{\bar{\alpha }}-\frac{1}{\bar{\alpha }_{m}}\big )\Pi _{2}\big (\frac{q}{\alpha }\big )||^2\right)$.

Or pour tout $(k,l)\in D_{2}$, on a $\Pi _{1}\left( \frac{\alpha }{\bar{\alpha }_{m}}\Pi _{2}\big (\frac{q}{\alpha }\big )\right) =0$ et par conséquent

$\sum _{D_{2}}||\Pi _{1}\left( \frac{\alpha }{\bar{\alpha }}\Pi _{2}\big (\frac{q}{\alpha }\big )\right) ||^2\leqslant ||\alpha ||_{\infty }\left| \left| \frac{1}{\bar{\alpha }}-\frac{1}{\bar{\alpha }_{m}}\right| \right| _{\infty }\sum _{D_{2}}||\Pi _{2}(\frac{\chi _{1}^k\chi _{2}^l}{\alpha })||^2=o(1)O(\lambda -2m)$, d’après un calcul analogue à celui conduisant à l’égalité (27). On en conclut que $\sum _{D_{2}}||\Pi _{1}\left( \frac{\alpha }{\bar{\alpha }}\Pi _{2}\big (\frac{q}{\alpha }\big )\right) ||^2=o(\lambda )$. L’item $2$ est démontré. $\square$

Preuve de la proposition 8

Le calcul de $||Z||_{D_{12}}$ qui est un calcul semblable à celui conduisant à l’égalité (24), montre que $||\fancyscript{V}||_{\Lambda }=O(\sqrt{\lambda })$. On déduit donc du premier item du lemme 16 que $|R_{1}|\leqslant ||\fancyscript{W}||_{\Lambda }(||\fancyscript{W}||_{\Lambda }+2||\fancyscript{V}||_{\Lambda })=o(\lambda )$

Pour le reste $R_{2}$, remarquons que l’on peut écrire

$\sum _{(k,l)\in \Lambda _{\lambda }}\left| \left| \Pi _{1}\Big (\frac{\alpha }{\bar{\alpha }} \zeta (\chi _{1}^k\chi _{2}^l)\Big )\right| \right| _{2}^2 =\sum _{(k,l)\in \Lambda _{\lambda }}\left| \left| \Pi _{1}\left( \frac{\alpha }{\bar{\alpha }}\Pi _{2} \big (\frac{\chi _{1}^k\chi _{2}^l}{\alpha }\big )\right) -\Pi _{1}\left( \frac{\alpha }{\bar{\alpha }} \Pi _{2}\big (\frac{\bar{\alpha }}{\alpha }\Pi _{1}\big (\frac{\chi _{1}^k\chi _{2}^l}{\bar{\alpha }}\big )\big )\right) \right| \right| _{2}^2$ en remplaçant dans l’expression de $\zeta$ la projection $\Pi _{1}^\perp$ par $I-\Pi _{1}$. Mais alors par l’inégalité triangulaire sur les normes de Hilbert-Schmidt, on a la majoration:

$|R_{2}|^{1/2}\leqslant ||Z||_{\Lambda }+||\fancyscript{W}||_{\Lambda }$, en notant que $\left| \left| \Pi _{1}\left( \frac{\alpha }{\bar{\alpha }} \Pi _{2}\big (\frac{\bar{\alpha }}{\alpha }\Pi _{1}\big (\frac{\chi _{1}^k\chi _{2}^l}{\bar{\alpha }}\big )\big )\right) \right| \right| _{2}^2\leqslant \left| \left| \Pi _{2}\big (\frac{\bar{\alpha }}{\alpha }\Pi _{1}\big (\frac{\chi _{1}^k\chi _{2}^l}{\bar{\alpha }}\big )\big )\right| \right| _{2}^2$, ce qui permet de conclure avec le lemme 16. $\square$