Une fonction bornée dont la borne n'est pas atteinte

La continuité. Le numérateur et le dénominateur sont polynomiaux, donc continus, et le dénominateur $1+x^2+y^2$ est toujours supérieur ou égal à $1$, donc ne s'annule jamais. Le quotient est continu sur ${\mathbb{R}}^2$.

La majoration. Pour tous réels $x,y$, l'identité $(|x|-|y|{)}^2⩾0$ donne $x^2+y^2⩾2|x||y|=2|xy|$, donc $$|f(x,y)|=\frac{|xy|}{1+x^2+y^2}⩽\frac{|xy|}{1+2|xy|}.$$ Or pour tout $s⩾0$, $\frac{s}{1+2s}<\frac{1}{2}$, car cette inégalité équivaut à $2s<1+2s$, c'est-à-dire $0<1$. Donc $$|f(x,y)|<\frac{1}{2}\text{pour tout }(x,y)\in {\mathbb{R}}^2.$$ En particulier la valeur $\frac{1}{2}$ n'est jamais atteinte.

La borne supérieure vaut $\frac{1}{2}$. Regardons $f$ sur la bissectrice, c'est-à-dire posons $g(t)=f(t,t)$ : $$g(t)=\frac{t^2}{1+2t^2}.$$ Quand $t\to +\infty$, en divisant numérateur et dénominateur par $t^2$, $$g(t)=\frac{1}{\frac{1}{t^2}+2}\underset{t\to +\infty }{\to }\frac{1}{2}.$$ Les valeurs de $f$ s'approchent donc d'aussi près que l'on veut de $\frac{1}{2}$, sans jamais l'atteindre : $\sup f=\frac{1}{2}$, et ce n'est pas un maximum.

Le point délicat. Une fonction continue et bornée sur ${\mathbb{R}}^2$ n'atteint pas nécessairement ses bornes : ${\mathbb{R}}^2$ n'est pas borné, et le « meilleur » point s'échappe à l'infini. Noter que $f$ possède pourtant des points critiques — $\nabla f$ s'annule en $(0,0)$, où $f$ vaut $0$, qui n'est ni le maximum ni le minimum global.