$\Gamma$ est ${\mathcal{C}}^{\infty }$ et strictement convexe

Stratégie : domination locale pour la régularité, signe de l'intégrande pour la convexité. Aucune domination ne tient uniformément sur $]0,+\infty [$ tout entier — c'est le piège de l'exercice. On applique donc l'extension à la classe ${\mathcal{C}}^k$ du théorème de dérivation sous l'intégrale sur un segment $[a,b]\subset ]0,+\infty [$ arbitraire, puis on recouvre l'intervalle par de tels segments. La convexité stricte tombe ensuite en lisant le signe de ${\Gamma }^{\prime \prime }$ — mais « intégrande positive » n'entraîne « intégrale strictement positive » qu'avec la continuité.

On pose, sur $A\times I$ avec $A=I=]0,+\infty [$ :

$$g(x,t)=t^{x-1}{e}^{-t}=e^{(x-1)\ln t}{e}^{-t},\Gamma (x)={\int }_{I}g(x,t)\mathrm{d}t.$$

1. Les dérivées partielles en $x$. À $t>0$ fixé, $x\mapsto e^{(x-1)\ln t}{e}^{-t}$ est de classe ${\mathcal{C}}^{\infty }$ sur $A$, et chaque dérivation en $x$ fait descendre un facteur $\ln t$ :

$$\frac{{\partial }^{k}g}{\partial x^k}(x,t)=(\ln t{)}^k{t}^{x-1}{e}^{-t}.$$

Ces fonctions sont continues en $x$ sur $A$ à $t$ fixé, et continues (donc continues par morceaux) en $t$ sur $I$ à $x$ fixé.

2. La domination, sur un segment. Fixons un segment $[a,b]\subset ]0,+\infty [$, donc $0<a\le b$. À $t>0$ fixé, $x\mapsto t^{x-1}$ est monotone : croissante si $t\ge 1$, décroissante si $t\le 1$. Donc pour $x\in [a,b]$ :

$$t^{x-1}\le t^{a-1}+t^{b-1}(t>0),$$

car pour $t\le 1$ on a $t^{x-1}\le t^{a-1}$ et pour $t\ge 1$ on a $t^{x-1}\le t^{b-1}$ — la somme majore dans les deux cas. Il vient, indépendamment de $x\in [a,b]$ :

$$\left|\frac{{\partial }^{k}g}{\partial x^k}(x,t)\right|\le {\phi }_k(t)=|\ln t{|}^k\left(t^{a-1}+t^{b-1}\right)e^{-t}.$$

${\phi }_k$ est intégrable sur $]0,+\infty [$ :

• en $0$ : $e^{-t}\le 1$ et $t^{b-1}\le t^{a-1}$ (car $t\le 1$ et $b\ge a$), donc ${\phi }_k(t)\le 2|\ln t{|}^k{t}^{a-1}=t^{\frac{a}{2}-1}\cdot \left(2|\ln t{|}^k{t}^{a/2}\right)$, dont le second facteur tend vers $0$ (croissances comparées). Ainsi ${\phi }_k(t)=o\left(t^{\frac{a}{2}-1}\right)$ avec $\frac{a}{2}-1>-1$ : intégrable (Riemann en $0$) ;
• en $+\infty$ : $t^{a-1}\le t^{b-1}$, donc ${\phi }_k(t)\le 2|\ln t{|}^k{t}^{b-1}{e}^{-t}=o\left(\frac{1}{t^2}\right)$ (croissances comparées) : intégrable.

Enfin, pour tout $x$ et tout $j$, $t\mapsto \frac{{\partial }^{j}g}{\partial x^j}(x,t)$ est intégrable sur $I$ (même majoration avec le segment $[x,x]$) ; en particulier $t\mapsto g(x,t)$ l'est, ce qui redonne le domaine de définition $x>0$ de $\Gamma$ (exercice 8).

3. Conclusion sur la régularité. L'extension à la classe ${\mathcal{C}}^k$ s'applique sur $[a,b]$ : $\Gamma$ y est de classe ${\mathcal{C}}^k$ et, pour tout $j\le k$,

$${\Gamma }^{(j)}(x)={\int }_0^{+\infty }(\ln t{)}^j{t}^{x-1}{e}^{-t}\mathrm{d}t.$$

Tout $x_0>0$ appartient à un tel segment (prendre $a=\frac{x_0}{2}$, $b=2x_0$), et $k$ est arbitraire : $\Gamma$ est de classe ${\mathcal{C}}^{\infty }$ sur $]0,+\infty [$, avec la formule annoncée pour tout $k$.

Le point délicat est là : la domination est locale, segment par segment. Chercher une $\phi$ valable pour tous les $x>0$ à la fois est voué à l'échec, puisque $t^{x-1}$ n'est majoré uniformément ni en $0$ (quand $x\to 0$) ni en $+\infty$ (quand $x\to +\infty$).

4. Convexité stricte. Pour $k=2$ :

$${\Gamma }^{\prime \prime }(x)={\int }_0^{+\infty }(\ln t{)}^2{t}^{x-1}{e}^{-t}\mathrm{d}t.$$

L'intégrande $h_x:t\mapsto (\ln t{)}^2{t}^{x-1}{e}^{-t}$ est continue et positive sur $]0,+\infty [$, et non identiquement nulle : par exemple $h_x(2)=(\ln 2{)}^2{2}^{x-1}{e}^{-2}>0$. Or une fonction continue, positive et d'intégrale nulle est identiquement nulle : par contraposée, ${\Gamma }^{\prime \prime }(x)>0$ pour tout $x>0$. Une fonction deux fois dérivable dont la dérivée seconde est strictement positive est strictement convexe : $\Gamma$ est strictement convexe sur $]0,+\infty [$.

Attention : la positivité de $(\ln t{)}^2$ ne suffirait pas à conclure ${\Gamma }^{\prime \prime }>0$ — une intégrande positive peut fort bien avoir une intégrale nulle. C'est la continuité qui donne la stricte positivité.

Contrôle chiffré. Deux contrôles indépendants.

• La formule des dérivées, en $x=1$. Elle prédit ${\Gamma }^{\prime }(1)={\int }_0^{+\infty }\ln t{e}^{-t}\mathrm{d}t$ et ${\Gamma }^{\prime \prime }(1)={\int }_0^{+\infty }(\ln t{)}^2{e}^{-t}\mathrm{d}t$. Les valeurs classiques sont ${\Gamma }^{\prime }(1)=-\gamma$ et ${\Gamma }^{\prime \prime }(1)={\gamma }^2+\frac{{\pi }^2}{6}$, où $\gamma$ est la constante d'Euler. Numériquement, la quadrature donne $-0,577215664901532$ pour la première (et $\gamma =0,577215664901532$ ✓) et $1,978111990655945$ pour la seconde, contre ${\gamma }^2+\frac{{\pi }^2}{6}=1,978111990655945$ ✓ — strictement positive, conformément au 4. Même contrôle en $x=3$ : ${\int }_0^{+\infty }(\ln t{)}^2{t}^2{e}^{-t}\mathrm{d}t=2,4929299919>0$ ✓. Et la formule à l'ordre $j=0$ doit redonner $\Gamma$ elle-même : ${\int }_0^{+\infty }{t}^2{e}^{-t}\mathrm{d}t=2=\Gamma (3)=2!$ ✓.
• La convexité stricte, sans dérivée. Si $\Gamma$ est strictement convexe, alors $\Gamma \left(\frac{3}{2}\right)<\frac{\Gamma (1)+\Gamma (2)}{2}$. Or $\Gamma (1)=\Gamma (2)=1$, donc le membre de droite vaut $1$, tandis que $\Gamma \left(\frac{3}{2}\right)=\frac{\sqrt{\pi }}{2}=0,886227$ : l'inégalité stricte est bien vérifiée ✓. (Au passage, $\Gamma$ prend deux fois la même valeur en $1$ et en $2$ : elle admet donc un minimum entre les deux, ce que la stricte convexité rend unique.)

Ce qui est acquis. La domination locale est la clé de toute régularité d'une intégrale à paramètre ; et le passage de « intégrande positive » à « intégrale strictement positive » se paie d'un argument de continuité, jamais gratuit.