Um sistema operacional "estável", muito parecido com um aplicativo "estável" de qualquer tipo, é simplesmente um que não é propenso a erros, ou é robusto o suficiente para lidar com o dito erro sem que o sistema operacional deixe de funcionar. Não existe um padrão real para chamar um SO "estável"; ele pode variar entre distros e até mesmo construir-para-construir (você pode ouvir falar da "última compilação estável", em oposição a uma compilação "beta"), mas geralmente o termo permanecerá onde se aplica.