Procure pelos arquivos de log do instalador.
Talvez se recuse ao mkfs em um sistema de arquivos existente; os marcadores check e override foram adicionados ao mkfs.btrfs recentemente .
Eu sei que você já o corrigiu, mas para qualquer outra pessoa, você pode usar o comando wipefs para remover uma assinatura do sistema de arquivos e disponibilizar um dispositivo para particionamento ( wipefs sem flags é inofensivo).