Provavelmente, você está com um problema em que o BTRFS precisa alocar um pouco de metadados para poder remover o arquivo. Um dos pontos fracos do BTRFS é o manejo da condição de falta de espaço; melhorar o comportamento nessa área é uma das prioridades do projeto.
Uma sugestão no wiki do btrfs é destruir o arquivo em vez de removê-lo.
#instead of this
rm -f ./some_file
# do this
true >| ./some_file
Isso removerá o conteúdo do arquivo sem alterar a entrada do diretório. Uma vez que você trabalhou o seu caminho para fora do canto que você está, você pode excluir arquivos como normal. Se isso lhe causar problemas, talvez você queira remontar temporariamente com a opção nodatacow
, que desativa o comportamento de copiar na gravação. Mas ... não tenho certeza se isso vai ajudar ou não.
Em geral, no entanto: não execute um sistema de arquivos BTRFS seco. Ainda é um software de pré-produção e os casos de canto são um pouco difíceis.