On ne peut pas vraiment se passer de rien à la place d'un système d'exploitation sur un ordinateur classique. L'OS est fondamental pour gérer le matériel et fournir une plateforme aux applications. On peut toutefois lui substituer des alternatives qui remplissent certaines de ses fonctions, selon les besoins :
La programmation « sur le nu » : interagir directement avec le matériel via l'assembleur ou un langage de très bas niveau. On écrit alors soi-même du code au niveau système, une approche extrêmement complexe, réservée à des tâches très spécialisées.
Le micrologiciel des systèmes embarqués : pour un micro-ondes ou un thermostat, un firmware dédié remplace un OS complet. Il est propre au matériel et n'offre qu'un jeu de fonctions très limité.
Les systèmes d'exploitation temps réel (RTOS) : conçus pour des tâches exigeant un timing précis et des performances prévisibles (contrôle industriel), ils offrent moins de fonctions qu'un OS généraliste mais privilégient un comportement déterministe.
Les hyperviseurs / moniteurs de machines virtuelles : ils gèrent des machines virtuelles. Il faut toujours un OS pour exécuter l'hyperviseur lui-même, mais les VM qu'il héberge peuvent avoir leur propre système, abstrayant le matériel sous-jacent.
Les chargeurs d'amorçage : petits programmes qui chargent l'OS. Ils ne le remplacent pas, mais constituent une étape cruciale du démarrage et peuvent accomplir quelques tâches de base.
En somme, il n'existe pas de véritable « à la place » d'un OS, sauf pour des besoins extrêmement limités où l'effort serait de toute façon disproportionné. Ces options sont des solutions spécialisées, non des remplacements généralistes.