O sistema de arquivos padrão do LiveCD é armazenado inteiramente na RAM, por isso é limitado pela quantidade de RAM física que você tem. Acredito que o padrão seja configurá-lo em ~ 50% desse número, obtendo um equilíbrio razoável entre o armazenamento temporário e a memória suficiente para executar as coisas.
Como o sistema de arquivos é necessariamente muito cedo no processo de inicialização, acredito que seja configurado pelo initramfs do kernel, então seria difícil mudar a proporção sem construir seu próprio kernel.
Sua melhor opção é mudar para um LiveUSB e ativar a persistência, criando um arquivo em disco de vários gigabytes que será usado para armazenar programas, downloads, etc. em vez de RAM.