Provavelmente, você está enfrentando um problema em que o BTRFS precisa alocar um pouco de metadados antes de remover o arquivo. Um dos pontos fracos do BTRFS é o manuseio da condição de falta de espaço; melhorar o comportamento nessa área é uma das prioridades do projeto.
Uma sugestão no wiki do btrfs é bloquear o arquivo em vez de removê-lo.
#instead of this
rm -f ./some_file
# do this
true >| ./some_file
Isso removerá o conteúdo do arquivo sem alterar a entrada do diretório. Depois de sair do canto em que está, você poderá excluir os arquivos normalmente. Se isso lhe causar problemas, convém remontar temporariamente com a nodatacow
opção, que desativa o comportamento de copiar na gravação. Mas ... não tenho certeza se isso vai ajudar ou não.
Em geral, porém: não execute um sistema de arquivos BTRFS seco. Ainda é um software de pré-produção, e as caixas de canto são um pouco ásperas.