Lors d'une capture réseau sur un tunnel IPSec, les paquets applicatifs d'origine sont invisibles. On observe uniquement les protocoles de protection, encapsulés et chiffrés.
Les types de paquets rencontrés
- ESP (Encapsulating Security Payload) : c'est le composant dominant. Il porte les données chiffrées et, selon les négociations, un mécanisme d'authentification. À l'œil, on reconnaît un en-tête ESP suivi d'une charge utile opaque, sans structure interne lisible.
- AH (Authentication Header) : s'il est utilisé, il fournit intégrité et authentification mais ne chiffre rien. On le voit généralement associé à ESP, sa séquence numérique étant visible en clair.
- En-tête IP externe : en mode tunnel, le paquet d'origine est entièrement encapsulé dans un nouveau paquet IP dont les adresses source et destination sont celles des passerelles VPN. En mode transport, il n'y a pas d'en-tête IP supplémentaire : ESP se superpose à l'en-tête existant.
- UDP ou TCP : en présence de NAT-T, IPSec est encapsulé dans UDP, le plus souvent sur le port 4500, afin de franchir les équipements de traduction d'adresses. On voit alors l'en-tête UDP, puis les données chiffrées.
- IKE (UDP 500, ou 4500 en NAT-T) : les échanges de négociation des associations de sécurité, en clair pour l'essentiel, qui précèdent l'établissement du tunnel.
Ce qui reste hors de portée
Aucun en-tête HTTP, SMTP ou FTP n'est visible : tout est dissimulé dans la charge utile chiffrée. Sans les clés de session, le contenu et même la nature du trafic applicatif restent indéterminés — on ne mesure au mieux que des volumes et des flux.
En pratique
Cette opacité est précisément le but recherché. Pour analyser le contenu, il faut le faire avant chiffrement ou après déchiffrement : sonde sur le LAN côté source, ou déchiffrement sur la passerelle avec export des flux vers un collecteur. C'est aussi pourquoi le diagnostic d'un tunnel défaillant s'appuie sur les négociations IKE, les compteurs d'erreurs ESP et la vérification d'alignement des propositions de sécurité, plutôt que sur l'inspection du contenu.