Si H<G (H sous-groupe de G suivant la notation introduite précédemment).
On dit que H est un sous groupe 'distingué' 'normal' ou 'invariant' si pour ∀x∈G xH=Hx.

Attention cela ne signifie pas que xy=yx pour tout y de H et tout x de G, mais que pour tout élément z de H il existe un y de H tel que xy=zx.

Si H est un sous-groupe distingué de (M,+) on note H$\vartriangleleft$G ou encore G$\vartriangleright$H.

Il existe diverses caractérisations des groupes normaux :

Les conditions suivantes sont équivalentes :
  1. H$\vartriangleleft$G
  2. ∀x∈G xH=Hx
  3. ∀x∈G xH⊆Hx
  4. ∀x∈G H=xHx-1
  5. ∀x∈G xHx-1⊆H
  • a⇔b⇒c, d⇒e et b⇒d sont évidents.
  • c⇒e : xH⊆Hx⇒(xh)x-1h'xx-1=h'∈H⇒xHx-1⊆H
  • e⇒b : xh=(xh'x-1)x=h'x∈Hx ⇒ xH⊆Hx et on montre de la même manière que Hx⊆xH.

Voyons immédiatement quelques exemples :

  1. Les sous-groupes triviaux de G sont distingués.
  2. Si G est commutatif tout sous-groupe H de G est distingué.
  3. Si H est d'indice 2 dans G, alors H est distingué.
    En effet dans ce cas pour tout x il n'y a que deux classes H et G-H (à droite ou à gauche).
  4. Le centre Z(G) d'un groupe G est un sous-groupe invariant.
    En effet si y∈Z(G) et si z∈G ∀x∈G on a (zyz-1x)=(yzz-1)x=yx=xy=xyzz-1=x(zyz-1)-1

Cela dit dans le paragraphe consacré aux classes modulo un sous-groupe, nous avons vu un exemple de sous-groupe non distingué à savoir le sous-groupe {1,τ} de S3.

HH$\vartriangleleft$G étant un sous-groupe distingué de G, nous cherchons maintenant à définir une loi de groupe 'naturelle' sur l'ensemble quotient G/H, sachant qu'ici (G/H)g=(G/H)d. Nous entendons par loi 'naturelle' une loi * telle que la surjection canonique x→xH de G sur G/H soit un morphisme de groupe. Cela sous-entend qu'on doit avoir xH*yH=xyH quels que soient les éléments x et y de G. Pour que cela soit possible il suffit de montrer qu'avec notre hypothèse sur H si x et x' sont reliés modulo H et si y et y' sont également reliés modulo H, alors xy et x'y' sont également reliés modulo H. Partons de x'x-1=h et y'y-1=h' où h et h' désignent des éléments de H. Nous avons donc d'après notre hypothèse xy'y-1x-1=h" ∈H qui nous donne (x'x-1)xy'y-1x-1=hh"∈H, donc (x'y')(xy)-1∈H.

En résumé:
Posant xH*yH=xyH on définit sans ambiguité une loi sur G/H faisant de H un groupe et telle que x→xH soit un morphisme de groupes.
Il suffit de voir que l'associativité de la loi * résulte de celle de G. Le neutre est bien sûr H et que (xH)-1=x-1H pour tout élément x de G. Les axiomes des groupes sont donc satisfaits tout comme la définition d'un morphisme.
Dans les hypothèses ci-dessus (H distingué dans G). Le groupe G/H est appelé groupe 'quotient' de G par H.L'application π:x→x de G sur G/H s'appelle la 'surjection canonique'.

Les groupes additifs ℤ/nℤ ne sont pas définis autrement.

Nous examinons maintenant quelques procédés conduisant à la fabrication de sous-groupes distingués.

Remarquons d'abord que:

L'intersection d'une famille quelconque de sous-groupes distingués est encore un sous-groupe distingué.
Si P est une partie quelconque de G on désigne par NP l'ensemble des x∈G tels que xPx-1=P.
NP est toujours un sous-groupe de G.
NP s'appelle le 'normalisateur' de P.
Si P={a} est un singleton, le normalisateur de P s'appelle le 'centralisateur' de a.
Si P est une partie quelconque alors on désigne par ZP, et on appelle 'centralisateur' de P, l'intersection de tous les centralisateurs des éléments de P, c'est à dire l'ensemble des x∈G tels que x-1ax=a ∀a∈P.
Avec cette définition et compte tenu de ce qui précède, le centralisateur de toute partie est un sous-groupe de G, et le centre de G noté Z(G) ou ZG introduit dans les exemples ci-dessus correspond au centralisateur du groupe G.
L'image réciproque d'un sous-groupe distingué par un homomorphisme de groupes est un sous-groupe distingué.
Soit donc h:G→G' un homomorphisme et H' un sous-groupe distingué de G' et H=h-1(G') son image réciproque par h. soit x∈H et soit y∈G alors f(yxy-1)=f(y)f(x)f(y)-1 est un élément de H' donc yxy-1∈H.
L'image directe d'un sous-groupe distingué par un morphisme surjectif est un sous-groupe distingué.
Soit donc h:G→G' un morphisme de groupes surjectif et soit H un sous-groupe distingué de G. Soit f(x) un élément de f(H) et soit y un élément quelconque de G'. L'hypothèse faite sur h entraîne que y=h(z) et donc y-1=h(z-1). Alors yf(x)y-1=f(z)f(x)f(z-1)=f(z)f(x)f(z)-1=f(zxz-1)∈H'.