Nesse caso, os arquivos provavelmente são gerenciados pelo syslog. Você pode ter rsyslog, sysklogd ou syslog-ng. Na memória, acho que o rsyslog é o padrão, então tente:
serviço sudo rsyslog restart
Isso deve liberar os arquivos e permitir que eles sejam limpos. Até o último filehandle fechar, o sistema de arquivos não pode liberar espaço.
(ou você poderia fazer como um administrador do Windows e apenas reiniciar, é claro ...)