Un endomorphisme bijectif et son inverse

$\phi$ est bien un endomorphisme. Si $\mathrm{deg}P⩽2$, alors $\mathrm{deg}{P}^{\prime }⩽1$, donc $P-P^{\prime }\in {\mathbb{R}}_2[x]$ : l'application arrive bien dans ${\mathbb{R}}_2[x]$. Elle est linéaire car la dérivation l'est : $(\lambda P+\mu Q)-(\lambda P+\mu Q{)}^{\prime }=\lambda (P-P^{\prime })+\mu (Q-Q^{\prime })$.

Injectivité. Écrivons $P=a+bx+c{x}^2$, donc $P^{\prime }=b+2cx$ et $$\phi (P)=(a-b)+(b-2c)x+c{x}^2.$$ Ce polynôme est nul si et seulement si ses trois coefficients le sont : $c=0$, puis $b-2c=b=0$, puis $a-b=a=0$. Donc $\ker (\phi )=\{0\}$ et $\phi$ est injective.

Bijectivité. $\phi$ est un endomorphisme d'un espace de dimension finie $3$. Le corollaire du théorème du rang affirme qu'en dimension finie, pour un endomorphisme, injectif équivaut à bijectif. Donc $\phi$ est bijective.

L'inverse, explicitement. Notons $D$ la dérivation sur ${\mathbb{R}}_2[x]$, de sorte que $\phi =\mathrm{id}-D$. Un polynôme de ${\mathbb{R}}_2[x]$ a sa dérivée troisième nulle, donc $D^3=0$ comme application. Or $$(\mathrm{id}-D)\circ (\mathrm{id}+D+D^2)=\mathrm{id}+D+D^2-D-D^2-D^3=\mathrm{id}-D^3=\mathrm{id},$$ les termes intermédiaires se télescopant. Le même calcul dans l'autre ordre donne l'identité aussi. Donc $${\phi }^{-1}(Q)=Q+Q^{\prime }+Q^{\prime \prime }.$$

Vérification sur $Q=x^2$ : ${\phi }^{-1}(Q)=x^2+2x+2$, et $\phi (x^2+2x+2)=(x^2+2x+2)-(2x+2)=x^2$. C'est bien $Q$.