Você pode usar o CD de instalação mínima. Esta é uma imagem de CD do instalador do Ubuntu que é pequena o suficiente para caber em um CD normal.
Ele usa um instalador baseado em texto similar aos CDs de instalação do Debian, e ele busca a maioria dos pacotes pela Internet, razão pela qual a imagem do CD do instalador pode ser tão pequena.
Normalmente eu não recomendaria isso a um iniciante, só porque ele é um pouco menos amigável do que o instalador comum, mas se você conseguir instalar o Debian, então você deve conseguir isso.