O Ubuntu é baseado no Debian e o Debian pode rodar totalmente no terminal. Apenas escolha não instalar o X11 e você obterá uma versão somente de linha de comando do Linux.
Para uma longa lista de distribuições do Linux especificamente projetadas para ter pouca memória, veja aqui .
O BasicLinux é particularmente pequeno: ele pode rodar em até 3MB de RAM e é tão pequeno que pode caber 2,8 MB (dois disquetes!).