Sim, é possível executar um servidor Linux com mídia somente leitura. Veja o Devil Linux; esses servidores são executados em um disco de CD.
Você pode criar um espaço gravável para coisas como arquivos de log usando um disco RAM. O espaço será muito apertado, no entanto. Eu não recomendaria fazer isso, exceto por circunstâncias muito especializadas.
Na maioria dos casos, você pode hibridizar o processo; a maior parte do servidor é somente de leitura, mas há um espaço de rascunho para arquivos de log com uma unidade interna ou unidade USB.
Você também pode fazer isso com roteadores Linux inicializáveis, como eu os vi feitos para inicializar a partir de um disquete que é somente de leitura.
Outra desvantagem são atualizações. O pensamento era que, mesmo que alguém quebrasse alguma falha, eles não poderiam causar muitos danos, já que eles não podem alterar os arquivos do sistema ou qualquer coisa assim, eu acho. Periodicamente, você atualiza a imagem master ou obtém a mais nova imagem ISO e usa isso para inicializar a partir da atualização; com o servidor Devil Linux que eu tinha experimentado eu tinha a imagem ISO para inicializar a partir de então usava um disco USB para puxar os arquivos específicos da configuração para esse servidor. Alternativamente, você pode editar os arquivos necessários para sua configuração particular e reintegrá-los com o diretório / etc do CD e gravar novamente o disco.
De qualquer forma, sim, isso pode ser feito, mas é um problema de manutenção e algo a ser considerado apenas em casos muito especializados.