O arquivo pode ter alguns atributos bloqueando a exclusão, como o atributo imutável que desabilita a exclusão até mesmo para o root.
Para verificar atributos, use: lsattr your_file
Deve ser apenas traços ao lado do arquivo como este:
--------------- your_file
Os atributos imutáveis são assim:
----i---------- your_file
Você pode usar o chattr como root para remover esse atributo de um arquivo:
chattr -i your_file