Suponho que você deve começar com a documentação do btrfs atual. A boa notícia é que a conversão do ext4 é realmente suportada, mas o tutorial vinculado realmente pula algumas etapas listadas na página manpage do wiki. Você também deve seguir as instruções no Wiki do Arch para isso.
A mensagem de erro deve ser benigna, no sentido em que deve mostrar o erro, mas permitir que você inicialize. Veja, por exemplo, aqui (Mint, 2011) e aqui (manjaro, 2016).