La loi d'Amdahl s'applique-t-elle aux ordinateurs parallèles ?

La formulation de la question inverse la réalité : la loi d'Amdahl s'applique bel et bien aux ordinateurs parallèles, et c'est précisément ce qui en fait un outil précieux pour comprendre leurs limites. Le malentendu vient sans doute de l'espoir d'obtenir un gain de vitesse illimité en multipliant les processeurs — un espoir que la loi vient tempérer.

Ce que dit la loi

Le gain maximal apporté par la parallélisation est plafonné par la fraction du programme qui ne peut pas être parallélisée.

La part séquentielle (f) regroupe les opérations intrinsèquement ordonnées : une boucle dont chaque itération dépend du résultat de la précédente, par exemple, ne se parallélise pas.

La part parallèle représente le reste, soit (1 − f).

n désigne le nombre de processeurs mis en œuvre.

La formule s'écrit :

Accélération = 1 / (f + (1 − f) / n)

Une limite incontournable

Ajoutez autant de processeurs que vous voulez : si une fraction, même minime, reste séquentielle, le gain plafonne. Exemple concret : avec 10 % de code séquentiel (f = 0,1) et un nombre infini de processeurs, l'accélération maximale vaut 1 / 0,1 = 10. Impossible de dépasser un facteur 10, quel que soit le matériel mobilisé.

La loi d'Amdahl ne prive donc pas les machines parallèles de leurs principes ; elle en révèle les limites intrinsèques. Toute optimisation sérieuse du parallélisme commence par réduire la part séquentielle du code. Ignorer cet enseignement conduit à des attentes irréalistes sur les gains réellement atteignables.

Article précédent:
Article suivant:
Articles recommandés