Porque, ao excluir um arquivo, você não está apenas modificando o arquivo, mas também modificando seu diretório.
Então, se o seu arquivo for:
rwxrwxr-x
Você seria capaz de fazer:
cp /dev/null <filename>
Mas, se as permissões do seu diretório forem:
rwxr-xr-x root data <directory name>
O sistema impedirá que você remova o arquivo.