Comme $A$ est normale $A$ et $^t\!A$ commutent par conséquent : $$S^p=(^t\!A)^pA^p=0.$$ On en déduit que $X^p$ est un polynôme annulateur de $S$ donc ses valeurs propres sont nécessairement nulles (car parmi les racines du polynôme annulateur). Or on observe que $^\!S=\ ^t\!(\ ^t\!AA)=\ ^t\!A\ ^t(\!^t\!A)=\ ^t\!AA=S$ donc $S$ est symétrique réelle et par conséquent est diagonalisable. Comme son unique valeur propre est 0, on en déduit que $S$ est semblable à la matrice nulle, donc $S=0$. Enfin on observe que $\forall X$ vecteur colonne de taille $n$, on a : $$\Vert AX\Vert^2=\ ^t\!(AX)AX=\ ^t\!X\ ^t\!AAX=\ ^t\!XSX=0,$$ donc comme la norme est définie, on en déduit que pour tout $X$, $AX=0$, c'est à dire $A=0$.

Comme $A$ est normale, il est facile de prouver que $P(A)$ aussi. Or d'après 9, si $A$ est normale avec $A^q=0$ alors $A=0$, donc ici si $P(A)$ est normale avec $P^q(A)=0$ alors $P(A)=0$.

En partant de l'équation, on observe déjà que $$^t\!M=M^2+M-I,$$ en transposant toujours la même équation, on a aussi que $$^t\!M^2+\ ^t\!M-M=I.$$ En remplaçant dans cette dernière équation $^t\!M$ par $M^2+M-I$, on trouve alors que $$M^4+2M^3-2M-I=0,$$ par conséquent $P=X^4+2X^3-2X-1$ est un polynôme annulateur de degrés 4 de $M$. On observe que $P(1)=P(-1)=P'(-1)=P''(-1)=0$ donc 1 est racine simple de $P$ et -1 racine triple, ce qui nous donne la factorisation : $$P=(X-1)(X+1)^3.$$ Ceci nous donne que $(M-I)(M+I)^3=0$ donc forcément $(M-I)^2(M-I)(M+I)^3=0$, c'est à dire $(M-I)^3(M+I)^3=0$.

Maintenant comme $^t\!M=M^2+M-I$, il est facile de montrer que $^t\!MM=M\ ^t\!M$, donc $M$ est normale. D'autre part comme $(M-I)(M+I)^3=0$ alors en réarrageant $(M^2-I)^3=0$. On déduit alors de 10 que $M^2-I=0$, c'est à dire $M^2=I$. Pour finir $$^t\!M=M^2+M-I=I+M-I=M$$ ce qui prouve la symétrie de $M$.

Existence : Puisque $M_n(\mathbb R)$ est de dimension $n^2$, on en déduit que la famille $I,A,\dots,A^{n^2}$ qui comporte $n+1$éléments est liée. Par conséquent, on peut trouver $\lambda_0,\dots,\lambda_{n^2}$ des réels non tous nuls tels que $$\lambda_0I+\dots+\lambda_{n^2}A^{n^2}=0.$$ Ceci prouve que $A$ admet un polynôme annulateur de degrés au moins égal à 1 dans $\mathbb R[X]$.Notons $Q$ ce polynôme et supposons-le unitaire (car on peut toujours rendre unitaire un polynôme annulateur).

Concernant les racines : Comme $Q$ est réel, toutes racines complexes a son complexe conjuqué qui est racine et on peut le décomposer comme suit $$Q=(X-r_1)^{m_1}\dots(X-r_p)^{m_p}(X^2-2Re(\alpha_1)X+|\alpha_1|^2)^{n_1}\dots (X^2-2Re(\alpha_q)X+|\alpha_q|^2)^{n_q}$$ où $r_1,\dots,r_p$ désignent les racines réelles de $Q$ de multiplicité $m_i$ et $\alpha_1,\dots,\alpha_q$ désignent les racines complexes de $Q$ de multiplicité $n_i$. Si maintenant on note $m=\max\{m_1,\dots,m_p,n_1,\dots n_q\}$, alors le polynôme suivant est encore un polynôme annulateur (si ce n'est pas clair pour vous, voir la réponse à la question 11. pour voir comment ça marche) : $$c(X-r_1)^{m}\dots(X-r_p)^{m}(X^2-2Re(\alpha_1)X+|\alpha_1|^2)^{m}\dots (X^2-2Re(\alpha_q)X+|\alpha_q|^2)^{m},$$ soit encore $$\left((X-r_1)\dots(X-r_p)(X^2-2Re(\alpha_1)X+|\alpha_1|^2)\dots (X^2-2Re(\alpha_q)X+|\alpha_q|^2)\right)^m$$ est annulateur. Mais comme $A$ est normale, d'après 10. on en déduit que $$(X-r_1)\dots(X-r_p)(X^2-2Re(\alpha_1)X+|\alpha_1|^2)\dots (X^2-2Re(\alpha_q)X+|\alpha_q|^2)$$ est également annulateur. Ce dernier polynôme a toutes ses racines de multiplicité 1, le résultat est prouvé.

$D_A\subset \mathbb N$ donc $D_A$ admet un minimum.

On sait qu'un polynôme annulateur contient les valeurs propres de $A$, par conséquent les racines de $\pi$ ont parmi elles les valeurs propres de $A$. Reste à voir si toutes les racines sont effectivement valeurs propres. Supposons par l'absurde que l'une d'entre elle ne le soit pas, par exemple $\lambda_1$. Alors $Ker(A-\lambda_1I_n)=\{0\}$, et donc $A-\lambda_1I_n$ est un endomorphisme injectif en dimension fini, c'est à dire est bijectif. $\pi$ étant annulateur, on a alors que $$\begin{align} (A-\lambda_1I_n)\dots(A-\lambda_dI_n)=0 &\Longrightarrow (A-\lambda_2I_n)\dots(A-\lambda_dI_n)=(A-\lambda_1I_n)^{-1}0\\ &\Longrightarrow(A-\lambda_2I_n)\dots(A-\lambda_dI_n)=0. \end{align}$$ Il suit alors que $(X-\lambda_2)\dots(X-\lambda_d)$ est un polynôme annulateur de $A$ de degré $d-1$. Or ceci est impossible car $d$ est le plus petit degré des polynômes annulateurs de $A$. D'où le résultat.

Le polynôme étant de degré $d$ et ayant ses valeurs propres de multiplicité 1, il a pour forme $$c\Pi_{k=1}^d(X-\lambda_k),$$ avec $c\in\mathbb R$. Le choix de $c$ n'influe pas sur le fait d'être annulateur, on peut donc fixer $c$ à loisir. Pour rendre ce polynôme annulateur, il faut alors prendre $c=1$ et dans ce cas l'unique polynôme possible est $\Pi_{k=1}^d(X-\lambda_k)$.

Nous avons vu en 11) que $(X-1)^3(X+1)^3$ est annulateur de $M$ donc les valeurs propres étant parmi les racines de $M$, les valeurs propres possibles de $M$ sont 1 et -1. Nous allons chercher à préciser ce dernier résultat.

Si $M$ n'a que 1 comme valeur propre, comme $M$ est symétrique (d'après 11) elle est digonalisable, elle est donc semblable à la matrice diagonale constituée avec uniquement des 1 sur la diagonale, c'est à dire l'identité. Mais si $M$ est semblable à l'identité, il existe une matrice inversible $P$ telle que $$M=PI_nP^{-1}=PP^{-1}=I_n.$$ Or par hypothèse $M\neq I_n$, donc $M$ ne peut avoir que 1 comme valeur propre.

Si $M$ n'a que -1 comme valeur propre, par le même raisonnement que précédemment, on aurait $M=-I_n$, ce qui contredit également $M\neq -I_n$.

Par conséquent $M$ a pour valeurs propres -1 et 1. D'après 13), on en déduit que : $$\pi_M=(X-1)(X+1).$$

D'après 6), comme $f$ est normale, on a que que $\Vert f(x)\Vert=\Vert f^*(x)\Vert$. Par conséquent : $$\begin{align} x\in Ker(f) &\Longleftrightarrow f(x)=0\\ &\Longleftrightarrow \Vert f(x)\Vert=0\\ &\Longleftrightarrow \Vert f^*(x)\Vert=0\\ &\Longleftrightarrow f^*(x)=0\\ &\Longleftrightarrow x\in Ker(f^*), \end{align}$$ donc $Ker(f)=Ker(f^*)$.

On observe que comme $A$ est normale $$^t\!(A-\lambda I_n)(A-\lambda I_n)= ^t\!AA-\lambda A-\lambda\ ^t\!A+\lambda^2=A\ ^t\!A-\lambda A-\lambda\ ^t\!A+\lambda^2=(A-\lambda I_n)\ ^t\!(A-\lambda I_n),$$ par conséquent $A-\lambda A$ est normale et $f-\lambda id$ aussi. D'après ce qui précède on en déduit que $$Ker(f-\lambda id)=Ker((f-\lambda id)^*).$$ Enfin on observe aussi que $^t\!(A-\lambda I_n)=\ ^t\!A-\lambda I_n$ donc $(f-\lambda id)^*=f^*-\lambda id$, par conséquent $Ker(f-\lambda id)=Ker(f^*-\lambda id)$ qui est le résultat recherché.

L'espace propre associé à la valeur propre $\lambda$ est défini par $Ker(f-\lambda id)$ donc d'après ce qu'on vient de voir les espaces propres de $f$ et $f^*$ coïncident.

$F$ est un sous espace vectoriel : $F$ est le noyau d'un endomorphisme de $\mathbb R^n$ donc c'est un sous espace vectoriel de $\mathbb R^n$.

$F$ est stable par $f$ : Soit $x\in F$ alors $Q(f)(x)=0$, mais $$Q(f)(f(x))=foQ(f)(x)=f(0)=0,$$ donc $f(x)\in Ker(Q(f))$. Par conséquent $F$ est stable par $f$.

$F$ est stable par $f^*$ : Comme $f$ est normale, on a $Q(f)of^*=f^*oQ(f)$. Par conséquent si $x\in F$, alors $Q(f)(x)=0$ et $$Q(f)(f^*(x))=f^*oQ(f)(x)=f^*(0)=0$$ donc $f^*(x)\in Ker(Q(f))$. Par conséquent $F$ est stable par $f^*$.

$F^\bot$ est stable par $f$ : Soit $x\in F^\bot$ alors $\forall y\in F,\ \langle x,y\rangle=0$. Mais comme on vient de le démontrer $F$ est stable par $f^*$, si $y\in F$ alors $f^*(y)\in F$. Il suit d'après 5.c) que : $$\forall y\in F,\ \langle f(x)|y\rangle=\langle x|f^*(y)\rangle=0,$$ c'est à dire $f(x)\in F^\bot$. D'où la stabilité recherchée.

$F^\bot$ est stable par $f$ : Il suffit d'adapter la preuve précédente.

Pour le dernier point on raisonne uniquement sur $f_F$ car les arguments sont identiques pour $f_{F^\bot}$ : D'abord comme $F$ et $F^\bot$ sont stable par $f$, $f_F$ et $f_{F^\bot}$ sont des endomorphismes de $F$ et $F^\bot$. D'autre part d'après 5.c $f^*$ est l'unique endomoprhisme vérifiant : $$\forall(x,y)\in(\mathbb R^n)^2,\ \langle f(x)|y\rangle=\langle x|f^*(y)\rangle.$$ Donc si on note $\langle\ |\ \rangle_F$ le produit scalaire de $\mathbb R^n$ restreint à $F$, on a déjà que : $$\forall(x,y)\in F^2,\ \langle f_F(x)|y\rangle_F=\langle x|(f_F)^*(y)\rangle_F.$$ Mais en jouant sur les restrictions et sur le fait que $F$ est stable par $f^*$, on a aussi que $$\forall(x,y)\in F^2,\ \langle f_F(x)|y\rangle_F=\langle f(x)|y\rangle=\langle x|f^*(y)\rangle=\langle x|(f^*)_F(y)\rangle_F.$$ Par l'unicité de 5.c) ceci nous conduit à ce que $(f_F)^*=(f^*)_F$. Pour finir, comme $f$ est normal nous avons que $$f_Fo(f_F)^*=f_Fo(f^*)_F=(fof^*)_F=(f^*of)_F=(f^*)_Fof_F=(f_F)^*of_F,$$ donc $f_F$ est également normal.

On a vu que les racines de $\pi_A$ sont les valeurs propres de $A$, par conséquent $\lambda$ est une valeur propre de $A$ ou ce qui revient au même de $f$. Il existe alors $e\neq 0_{\mathbb R^n}$ tel que $f(e)=\lambda e$ soit encore $(f-\lambda id_{\mathbb R^n})(e)=0$ ou $e\in Ker(f-\lambda id_{\mathbb R^n})$. D'où le premier point.

Soit $u\in Vect(e)$ alors il existe $\mu\in\mathbb R$ tel que $u=\mu e$ et $$f(u)=f(\mu e)=\mu\lambda e\in Vect(e).$$ Donc $Vect(e)$ est stable par $f$ et est de dimension 1.

Dans ce cas $\pi_A$ étant un polynôme unitaire avec que des racines complexes, il admet une décomposition dans $\mathbb R$ de la forme : $$\pi_A=(X^2+a_1X+b_1)\dots(X^2+a_pX+b_p),$$ avec $a_i^2-4b_i<\! 0$. Supposons par l'absurde que $f^2+a_1f+b_1id_{\mathbb R^n}$ soit inversible, alors comme $\pi_A$ est annulateur de $f$ on a $$\begin{align} &(f^2+a_1f+b_1id_{\mathbb R^n})\dots(f^2+a_pf+b_pid_{\mathbb R^n})=0\\ &\Longrightarrow (f^2+a_2f+b_2id_{\mathbb R^n})\dots(f^2+a_pf+b_pid_{\mathbb R^n})=(f^2+a_1f+b_1id_{\mathbb R^n})^{-1}o0=0. \end{align}$$ Il suit que $(X^2+a_2X+b_2)\dots(X^2+a_pX+b_p)$ est annulateur de $f$, ce qui contredit le fait que $\pi_A$ soit le polynôme unitaire annulateur de plus petit degré. Par conséquent $f^2+a_1f+b_1id_{\mathbb R^n}$ n'est pas inversible.

En remarquant que $^t\!(A+B)=\ ^t\!A+\ ^t\!B$, on en déduit que $h^*=(g+g^*)=g^*+(g^*)^*$. Maintenant d'après 4.a), on a $$h^*=g^*+(g^*)^*=g^*+g=h.$$ Par conséquent $h$ est un endomorphisme symétrique de $\mathbb R^n$et est diagonalisable.

Soit $u=\lambda_1 e+\lambda_2 f(e)\in Vect(e,f(e))$. On observe que comme $e\in G$, on a $f^2(e)+af(e)+be=0$ soit $f^2(e)=-af(e)-be$. Il suit que : $$f(u)=\lambda_1 f(e)+\lambda_2 f(f(e))=-be+(\lambda_1-a)f(e)\in Vect(e,f(e)),$$ donc $F$ est stable par $f$. $F$ étant de dimension au plus 2, le résultat recherché est prouvé.

Pour cette question, on peut faire un raisonnement constructiviste en construisant "à la main" une base orthonormale. Mais on peut aussi procéder par récurrence double sur la dimension. Bien que moins "naturel", ce second raisonnement me paraît plus simple en terme de rédaction, c'est pourquoi je vous le propose.

$F$ est de dimension 2 : Supposons que $F$ n'est pas de dimension 2, alors $e$ et $f(e)$ sont colinéaires et il existe un réel $\lambda$ tel que $f(e)=\lambda e$, soit encore $f_G(e)=\lambda e$. Mais $f_G$ a pour polynôme annulateur $X^2+aX+b$ et ce polynôme n'a pas de racine réelle donc $f_G$ n'a pas de valeur propre réelle. Ceci contredit $f_G(e)=\lambda e$. Il suit que $e$ et $f(e)$ ne sont pas colinéaires et donc $dim(F)=2$.

Une matrice de $f_F$ dans une base orthonormée est de la forme $\rho R_\theta$ : $F$ est stable par $f$ donc $f_F$ est bien défini. $f$ est normal et $F$ stable par $f$ donc $f_F$ est normal aussi d'après 16. Sa matrice dans une base orthonormale est donc normale également par définition. D'après la partie I, cette matrice est soit symétrique, soit de la forme $\rho R_\theta$. Or $e\in G$ donc d'après 16), $f(e)\in G$ et donc $F=Vect(e,f(e))\subset G$. Il suit que $X^2+aX+b$ est annulateur de $f_F$ et donc les valeurs propres de $f_F$ ne sont pas réelles. La matrice ne peut donc être symétrique sinon ses valeurs propres seraient réelles. Par conséquent la matrice a pour forme $\rho R_\theta$.

Initialisation de la récurrence double : Si $n=1$, une matrice de $f$ est de la forme $(\lambda)$ et répond bien au problème. Si $n=2$, alors d'après 1) dans une base orthonormale une matrice de $f$ est soit symétrique, soit de la forme $\rho R_\theta$. Si la matrice est de la forme $\rho R_\theta$ alors c'est une forme souhaitée. Si la matrice est symétrique, nous savons qu'elle est diagonalisable (à valeurs propres réelles) dans une base orthonormale. Donc dans cette base, la matrice de $f$ aura pour forme $\begin{pmatrix}\lambda_1 & 0\\ 0 & \lambda_2\end{pmatrix}$ avec $\lambda_1,\lambda_2\in\mathbb R$ ce qui est également une forme souhaitée.

Hérédité :Soit $n\in\mathbb N$, $n\geq 2$. Supposons que pour les dimensions $n$ et $n-1$, il existe une base othonormale dans laquelle la matrice de $f$ a la forme voulue. Montrons que le résultat est vrai pour la dimension $n+1$. D'après les question précédentes, il existe un espace $F$ de dimension 1 ou 2 stable par $f$. On peut alors décomposer $\mathbb R^{n+1}$ en $\mathbb R^{n+1}=F\oplus F^\bot$ et $f$ comme suit : $$f:\begin{cases}F\oplus F^\bot\to F\oplus F^\bot\\ u+u_\bot\mapsto f_F(u)+f_{F^\bot}(u_\bot).\end{cases}$$ Si $F$ est de dimension 1, alors la matrice de $f_F$ est de la forme $(\lambda)$. Si maintenant $F$ est de dimension 2, nous avons vu précédemment qu'il existe une base othonormée de $F$ telle qu'une matrice de $f_F$ soit de la forme $\rho R_\theta$ ou diagonale. D'autre part le dimension de $F^\bot$ est soit $n$, soit $n-1$ donc par hypothèse de récurrence, il existe une base de $F^\bot$ dans la matrice de $f_{F^\bot}$ est de la forme présentée dans la question. Comme $F$ et $F^\bot$ sont orthogonaux, la juxtaposition de ces deux bases forme une base orthonormale de $\mathbb R^{n+1}$ et, quitte à réorganiser l'ordre des vecteurs de cette base, cette base nous donne une matrice de $f$ de la forme voulue. D'où l'hérédité.

Par récurrence double, le résultat est démontré.

Si $\pi_A$ a toutes ses racines réelles alors les valeurs propres de $A$ sont réelles et d'après 18), il existe une base orthonormale dans laquelle $A$ est diagonalisable. En particulier, il existe une matrice orthongonale $P$ telle que : $$A=\ ^t\!PDP.$$ Un simple calcul nous donne alors que $^t\!A=A$, c'est à dire que $A$ est symétrique. Par conséquent, une matrice normale dont $\pi_A$ a toutes ses racines réelles est une matrice symétrique. Récirpoquement si $A$ est symétrique $^\!AA=A^t\!A$ donc est normale. De plus elle a toutes ses racines réelles. En conclusion : les matrices normale dont $\pi_A$ n'a que des racines réelles sont exactement les matrices symétrique.