As opções de montagem do Btrfs são analisadas pelo módulo do kernel btrfs. Você deve atualizar seu kernel, porque o Btrfs não é bem suportado em kernels mais antigos. Felizmente 12.04 tem backports de pacotes críticos de 13.10: LTSEnablementStack
sudo apt-get install --install-recommends {linux-generic,xserver-xorg,libgl1-mesa-glx}-lts-saucy
Isso deve atualizar o kernel de 3,2 para 3,11.
A conversão no local do Btrfs produz um sistema de arquivos fragmentado e não permite que você selecione alguns recursos importantes. Se você tiver a oportunidade de rsync seus dados em um novo sistema de arquivos btrfs, use isto:
mkfs.btrfs --nodesize 16k --leafsize 16k --features skinny-metadata /dev/YourDevice