Depende da versão que você pretende instalar, se você estiver instalando versões anteriores a 12.10, poderá usar um CD, no entanto, para versões 12.10 ou posteriores:
O Ubuntu 12.10 aumentará o tamanho máximo de sua imagem de disco de
700MB a 800MB, tornando-o grande demais para caber no tradicional CD-R
mídia.
A notícia veio da Kate Stewart da Canonical no Ubuntu Lista de discussão , quem é
escreveu:
Não há mais uma imagem de tamanho de CD tradicional, DVD ou alternativa
imagem, mas sim uma única imagem do Ubuntu de 800MB que pode ser usada
USB ou DVD.
O Ubuntu Server não é afetado pelo switch.
E, como tal, os CDs normalmente não conseguem armazenar mais de 700 MB de dados, por isso, se você planeja instalar versões após 12.04, terá que optar pelas opções de USB, conforme sugerido nas outras respostas, ou está preso em ter que comprar um DVD.
Fonte e mais informações sobre o assunto: OMG Ubuntu: O LiveCD do Ubuntu está morto