But to be bootable, the partition needs to be formatted as a Linux filesystem
Bem, por um lado, não - ele só precisa ser um sistema de arquivos entendido pelo Linux e capaz de armazenar bits básicos de permissão do POSIX. ISO 9660 com as extensões Rock Ridge faria o trabalho. (Então, seria NTFS com NTFS-3G, ou o estranho "umsdos" nos primeiros dias.)
Mas para a maioria dos live CDs, o sistema de arquivos raiz do sistema operacional não é mantido diretamente no CD - está dentro de um arquivo de imagem (mais comumente squashfs, não ext3) que é montado usando losetup.
Se você executar findmnt
dentro de um live CD em execução, verá que /
é algum tipo de overlayfs / unionfs que possui uma imagem squashfs como camada inferior (contendo os arquivos somente leitura) e tmpfs / ramdisk como a camada superior (contendo mudanças voláteis).