Você conseguiu instalar o Ubuntu no btrfs desde 10.10
Veja os seguintes guias
Com isso dito, veja a seção de estabilidade no wiki
Você pode inicializar uma partição root (/ boot) do btrfs com o grub2 (1.99), mas o initrd deve ser compactado com zlib (não lzo)
Olhando como /etc/initramfs-tools/initramfs.conf, o gzip parece ser o padrão, você deve estar pronto.
E na página wiki do ubuntu que eu te dei:
A partir de 11.04-beta1, é possível usar apenas sistemas de arquivos btrfs com a ressalva de que o grub _MUST_NOT_ esteja instalado no setor de inicialização do volume btrfs contendo / boot.
Portanto, instale o Ubuntu 11.04 ou superior, certifique-se de instalar o grub no MBR (este é o comportamento padrão do instalador).