La fonction Γ est C^∞ et strictement convexe

Stratégie. Appliquer le théorème de régularité des intégrales à paramètre dans sa version ${\mathcal{C}}^k$, avec le réflexe du chapitre : dominer sur tout segment $[a,b]\subset ]0,+\infty [$, jamais sur l'intervalle entier. Une fois la formule ${\Gamma }^{(k)}(x)={\int }_0^{+\infty }(\ln t{)}^k{t}^{x-1}{e}^{-t}\mathrm{d}t$ acquise, la stricte convexité se lit directement sur le signe de l'intégrande pour $k=2$.

Cadre. Pour $x>0$ et $t>0$, posons $$h(x,t)=t^{x-1}{e}^{-t}=e^{(x-1)\ln t}{e}^{-t},\Gamma (x)={\int }_0^{+\infty }h(x,t)\mathrm{d}t,$$ intégrale dont on sait (exercice résolu) qu'elle converge exactement pour $x>0$.

Étape 1 — les hypothèses de régularité. $h$ admet des dérivées partielles en $x$ à tout ordre : $$\frac{{\partial }^{k}h}{\partial x^k}(x,t)=(\ln t{)}^k{t}^{x-1}{e}^{-t},$$ chacune continue sur $]0,+\infty [\times ]0,+\infty [$ (produits et composées de fonctions continues), donc continue en $x$ à $t$ fixé et continue par morceaux en $t$ à $x$ fixé.

Étape 2 — la domination sur un segment. Fixons $0<a<b$ et travaillons pour $x\in [a,b]$. La monotonie de $x\mapsto t^{x-1}=e^{(x-1)\ln t}$ dépend du signe de $\ln t$ :

• si $0<t\le 1$ alors $\ln t\le 0$, donc $x\mapsto t^{x-1}$ est décroissante et $t^{x-1}\le t^{a-1}$ ;
• si $t\ge 1$ alors $\ln t\ge 0$, donc $x\mapsto t^{x-1}$ est croissante et $t^{x-1}\le t^{b-1}$.

Dans les deux cas $t^{x-1}\le t^{a-1}+t^{b-1}$, d'où, pour tout $x\in [a,b]$ et tout $t>0$ : $$\left|\frac{{\partial }^{k}h}{\partial x^k}(x,t)\right|\le {\phi }_k(t):=\left|\ln t{|}^k\right(t^{a-1}+t^{b-1})e^{-t},$$ fonction indépendante de $x$. Elle est intégrable sur $]0,+\infty [$ :

• en $0^{+}$ : $e^{-t}\le 1$ et $t^{b-1}\le t^{a-1}$ (car $t\le 1$ et $b>a$), donc ${\phi }_k(t)\le 2|\ln t{|}^k{t}^{a-1}$ ; en choisissant $\epsilon \in ]0,a[$, la croissance comparée donne $|\ln t{|}^k{t}^{\epsilon }\to 0$, donc ${\phi }_k(t)=O\left(t^{a-1-\epsilon }\right)$ avec $a-1-\epsilon >-1$ : intégrable (Riemann en borne finie) ;
• en $+\infty$ : ${\phi }_k(t)\le 2(\ln t{)}^k{t}^{b-1}{e}^{-t}=o\left(\frac{1}{t^2}\right)$, l'exponentielle décroissante écrasant toute puissance et tout logarithme : intégrable.

Étape 3 — conclusion ${\mathcal{C}}^{\infty }$. Le théorème de dérivation sous le signe intégrale, version ${\mathcal{C}}^k$ avec domination sur tout segment, s'applique donc sur $[a,b]$ : $\Gamma$ y est de classe ${\mathcal{C}}^k$, avec $${\Gamma }^{(k)}(x)={\int }_0^{+\infty }(\ln t{)}^k{t}^{x-1}{e}^{-t}\mathrm{d}t.$$ Ceci vaut pour tout $k\in \mathbb{N}$ et tout segment $[a,b]\subset ]0,+\infty [$. Tout point de $]0,+\infty [$ étant intérieur à un tel segment, et la régularité étant une propriété locale, on conclut : $$\boxed{\Gamma \text{ est de classe }{\mathcal{C}}^{\infty }\text{ sur }]0,+\infty [,\text{avec}{\Gamma }^{(k)}(x)={\int }_0^{+\infty }(\ln t{)}^k{t}^{x-1}{e}^{-t}\mathrm{d}t.}$$

Le point délicat. Aucune domination uniforme sur $]0,+\infty [$ tout entier n'existe : quand $x\to 0^{+}$, la singularité $t^{x-1}$ en $0$ devient de plus en plus forte et $\Gamma (x)\to +\infty$. Prétendre dominer sur l'intervalle entier serait une faute ; c'est le passage par les segments — et l'observation que la régularité est locale — qui rend l'argument correct. C'est le même réflexe qu'au chapitre 6 pour la dérivation d'une série de fonctions.

Stricte convexité. Prenons $k=2$ : $${\Gamma }^{\prime \prime }(x)={\int }_0^{+\infty }(\ln t{)}^2{t}^{x-1}{e}^{-t}\mathrm{d}t.$$ L'intégrande est continue et positive sur $]0,+\infty [$ ; elle n'est pas identiquement nulle (elle ne s'annule qu'en $t=1$). Or une fonction continue positive d'intégrale nulle est identiquement nulle : ce n'est pas le cas ici, donc $$\forall x>0,{\Gamma }^{\prime \prime }(x)>0,$$ et $\Gamma$ est strictement convexe sur $]0,+\infty [$.

Conséquence. $\Gamma (1)=\Gamma (2)=1$ et $\Gamma$ est strictement convexe : elle admet donc un minimum unique, atteint en un point de $]1,2[$ ; et $\Gamma$ tend vers $+\infty$ en $0^{+}$ (car $\Gamma (x)=\frac{\Gamma (x+1)}{x}$) comme en $+\infty$ (car $\Gamma (n+1)=n!$).

Contrôle numérique. Comparaison des intégrales de l'énoncé aux dérivées de $\Gamma$ calculées indépendamment :

$x$	$k$	${\int }_0^{+\infty }(\ln t{)}^k{t}^{x-1}{e}^{-t}\mathrm{d}t$	${\Gamma }^{(k)}(x)$	écart
$\frac{1}{2}$	$0$	$1,7724538509$	$1,7724538509$ ($=\sqrt{\pi }$)	$1,4\cdot 10^{-17}$
$\frac{1}{2}$	$1$	$-3,4802309069$	$-3,4802309069$	$1,1\cdot 10^{-15}$
$\frac{1}{2}$	$2$	$15,5801774424$	$15,5801774424$	$9,3\cdot 10^{-14}$
$1$	$1$	$-0,5772156649$	$-\gamma =-0,5772156649$	$0$
$2$	$2$	$0,8236806609$	$0,8236806609$	$0$

(Au passage : ${\Gamma }^{\prime }(1)=-\gamma$, la constante d'Euler du chapitre 5 — elle réapparaît ici comme dérivée de $\Gamma$ en $1$.)

Positivité de ${\Gamma }^{\prime \prime }$, testée sur toute l'échelle : $1968,88$ en $x=0,1$ ; $15,58$ en $x=0,5$ ; $1,978$ en $x=1$ ; $0,857$ en $x=1,4616$ ; $0,824$ en $x=2$ ; $59,75$ en $x=5$ ; $1,88\cdot 10^6$ en $x=10$. Toujours strictement positive, y compris — et c'est bien le point — au minimum de $\Gamma$, situé en $$x^{\ast }=1,4616321450\in ]1,2[,\Gamma (x^{\ast })=0,8856031944<1=\Gamma (1)=\Gamma (2),$$ conformément à la stricte convexité.

Enfin la domination elle-même a été éprouvée : pour $a=\frac{1}{2}$, $b=3$, $k=2$, on trouve ${\int }_0^{+\infty }{\phi }_2=18,073$ (fini), et l'inégalité $\left|\frac{{\partial }^{2}h}{\partial x^2}(x,t)\right|\le {\phi }_2(t)$ a été vérifiée sur $2000$ couples $(t,x)$ tirés au hasard avec $t\in [10^{-8},10^2]$ et $x\in [\frac{1}{2},3]$ : aucun contre-exemple.

Acquis. La stricte log-convexité de $\Gamma$ (plus forte, et vraie aussi) caractérise $\Gamma$ parmi les solutions de $f(x+1)=xf(x)$ avec $f(1)=1$ : c'est le théorème de Bohr-Mollerup. La méthode utilisée ici — dominer sur tout segment, faire remonter $k$ — est celle qui traite toutes les intégrales à paramètre du programme.