L'élément xyx-1y-1 noté [x,y] est appelé le 'commutateur' de x et y.
[x,y] mesure le 'défaut de commutation' entre x et y au sens suivant :
xy=[x,y]yx et xy=yx⇔[x,y]=1.
En particulier :
Dans un groupe abélien G, on a [x,y]=1 ∀(x,y)∈G×G.
Les propriétés du commutateur de deux éléments sont rassemblées dans l'énoncé ci-dessous dont la démonstration est évidente :
L'inverse du commutateur de x et y est le commutateur de y et x. [x,y]-1=[y,x].
L'ensemble de tous les commutateurs de tous les couples (x,y) d'éléments de G×G est stable par tout endomorphisme h du groupe G. h([x,y])=[h(x),h(y)].
∀(x,y,z)∈G3[x,yz]=[x,y]y[x,z]x-1.
Dérivation du premier ordre
L'ensemble des commutateurs de G contient l'élément unité 1=[1,1] et est stable par passage à l'inverse compte tenu de ce qui précède. Cependant il n'est pas stable pour la loi du groupe. Ce n'est donc pas en général un sous-groupe de G.
Le sous-groupe engendré par les commutateurs, s'appelle le groupe 'dérivé' de G et est noté D(G) ou encore [G,G]. Symboliquement :
$$D\left ( G \right )=\left [ G,G \right ]=\left \langle \left \{ [x,y]|(x,y)\in G^{2} \right \} \right \rangle$$
Il résulte de sa définition et des propriétés vues plus haut que :
Le groupe D[G] est stable par tout endomorphisme de G.
Comme D(G) est un sous-groupe normal de G on peut définir le quotient G/D(G). Cette construction fait l'objet d'une définition.
Le groupe G/D(G) s'appelle "l'abélianisé" de G. On le note Ab(G)
Pour tout groupe G, son abélianisé Ab(G) est un groupe abélien.
Il suffit de montrer que xy et yx ont même classe modulo D(G). Mais cela revient à dire que xy(yx)-1∈D(G), mais xy(xy)-1=xyx-1y-1=[x,y]∈D(G).
On peut même dire que Ab(G) est le plus grand quotient abélien de G. Au sens suivant :
Si H est un sous-groupe distingué de G tel que que G/H soit abélien, alors D(G)⊆H.
En effet G/H est abélien ssi ∀(x,y)∈G×G ∃z ∈H tel que xy=zyx. Mais c'est clair si z=[x,y] qui est toujours un élément de D(G) donc de H si D(G)⊆H.
Il en résulte en particulier que :
Tout morphisme de G dans un groupe abélien G' se factorise via la surjection canonique π: G→Ab(G).
En effet f(xy)=f(x)f(y)=f(y)f(x). Donc f(xy)[f(y)f(x)]-1=1, qui peut s'écrire f(xyx-1y-1)=1, soit encore f([x,y])=1 soit [x,y]∈Ker(f)
Concernant la dérivation d'un sous-groupe nous avons l'énoncé suivant :
Soit G un groupe et H un sous-groupe de G, alors D(H) est un sous-groupe de D(G).
Cela résulte simplement du fait que tout commutateur de H est un commutateur de G.
Soit h:G1→G2 un homorphisme de groupes. Alors h(D(G1))⊆D(G2) et on a l'égalité si h est surjectif.
Cela résulte du fait que que l'image par h d'un commutateur de G1 est un commutateur de G2 et que D(G1) est un sous-groupe de G1 et son image un sous-groupe de G2.
Concernant les quotients, nous avons :
Soit G un groupe et H un sous-groupe normal de G. Soit π:G→G/H la surjection canonique, alors D(G/H)=π(D(G)).
Il suffit d'appliquer le résultat précédent en prenant pour h la surjection canonique π.
Dérivation d'ordre supérieur
On définit par récurrence le groupe dérivé d'ordre n du groupe G :
D0(G)=G
Dn+1(G)=D(Dn(G))
Il résulte des définitions et de ce qui précède dans cette page que :
On a une suite décroissante de sous-groupes : G⊇D(G)⊇D2(G)⊇...⊇Di-1(G)⊇Di(G)⊇Di+1(G)...
Pour tout i Di+1(G) est un sous-groupe distingué de Di(G).
Le quotient Di(G)/Di+1(G) est abélien.
Ceci entraîne immédiatement par récurrence :
Pour tout entier naturel n, Si H est un sous-groupe de G, Dn(H) est un sous-groupe de Dn(G).
Voici maintenant un résultat important :
Pour tout indice i, Di(G) est un sous-groupe distingué de G.
Ce théorème affirme donc que non seulement Di(G) est un sous-groupe distingué de Di-1(G) mais en fait c'est un sous-groupe distingué de G tout entier.
On commence par montrer que l'image de D(G) par tout automorphisme h de G est égale à D(G). Il est clair que l'image par h de tout commutateur est un commutateur, d'où h(D(G))⊆D(G). Raisonnant de même avec l'automorphisme réciproque on a h-1(D(G))⊆D(G) donc D(G)⊆h(D(G)) et finalement h(D(G))=D(G).
De la même façon, par récurrence nous voyons que h(Di)=Di pour tout indice i.
Ceci prouve en particulier que tous les Di sont stables par les automorphismes intérieurs de G, donc distingués.
Pour un groupe G simple non commutatif, toutes les dérivées successives de G sont égales à G.
En effet, si G n'est pas commutatif D(G)≠{1}. Comme D(G) est distingué dans G, si G est simple, comme D(G)≠{1} alors D(G)=G. Il suffit maintenant d'itérer.
Soit h:G1→G2 un homomorphisme de groupes. Alors h(Dn(G1))⊆Dn(G2) et on a l'égalité si h est surjectif.
Par récurrence en utilisant un théorème ci-dessus.
Concernant la dérivation successive des groupes quotients, nous avons par récurrence, compte tenu du résultat précédent :
Si H est un sous-groupe normal de G. Dn(G/H)=π(Dn(G)).
Exemples
Le groupe dérivé d'un groupe commutatif est réduit au sous-groupe trivial {1}.
Nous savons déjà que An est un sous-groupe distingué de Sn(revoir la démo). En outre Sn/An est isomorphe au groupe multiplicatif {-1,+1}. Il est donc commutatif. D(Sn) contient donc An. Mais il est clair que tout sous-groupe de An contenant une seule permutation négative est égal à Sn. Donc D(Sn)=An.