Você pode ter recursos para executar uma GUI sem problemas, mas aconselharia contra os "ambientes de desktop" mais recentes. Para uma máquina de 133Mhz, também aconselho contra uma instalação padrão de qualquer distribuição recente "amigável ao consumidor", já que eles tendem a ter muitos serviços em segundo plano em execução.
Instalando Debian, ArchLinux, Gentoo, BSD não deve ser problema. Obtenha uma instalação "mínima" em primeiro lugar, adicione programas conforme necessário e verifique alternativas elegantes, em particular para aplicações gráficas. Então o XFCE pode ser um bom GUI para iniciantes. Você pode obter uma sensação mais antiga do GUI do Unix instalando gerenciadores de janela como openstep, afterstep ou fvwm2. Eles não integram as "ferramentas usuais de desktop" como um painel de controle, são apenas estruturas para trabalhar com aplicativos gráficos, como um navegador ou um leitor de PDF.
Ao instalar aplicativos gráficos, você deve considerar que os aplicativos dos projetos KDE ou Gnome tendem a ser um pouco pesados. Por exemplo, o leitor de pdf do Okular é muito bom e tem o conjunto de recursos mais decente do IMO, mas exigirá que você instale vários serviços e bibliotecas do KDE e iniciará vários desses serviços em segundo plano. Para o seu sistema, você deve experimentar algumas alternativas menores, como o epdfview ou o xpdf, mais antigo.
O mesmo vale para navegadores, email, bate-papo, etc. Há alguns aplicativos muito bons baseados em console que são ainda mais baixos em recursos, como mutt, slrn, vim / emacs, mpd, links2 etc. Mas mesmo em seu sistema Eu os usaria de dentro do X, para uma multitarefa mais conveniente.
Se você pretende a sensação de instalação do estilo antigo do Linux, os instaladores do BSD foram surpreendentemente inteligentes e primitivos na última vez que tentei (alguns anos atrás). O Debian também é baseado em texto (mas é mais inteligente) e, ao selecionar uma instalação "Mínima", também instalará as coisas mais básicas para inicializar você em um shell Linux, com a opção de selecionar e instalar quaisquer outros programas necessários. Ainda uso essa abordagem ao instalar novos servidores ou desktops, já que as instalações padrão normalmente instalam todos os tipos de lixo e são trabalhosas para eu limpar novamente.
PS: Em outra vida eu passo muito tempo configurando aqueles programas Linux / Unix de estilo antigo extremamente flexíveis, esp. gerenciadores de janela: link