Você pode, talvez, usar as diretivas firstaction ou lastaction para chamar um script de shell que testa o espaço livre em disco e, em seguida, executar uma exclusão nos arquivos mais antigos.
firstaction/endscript
The lines between firstaction and endscript (both of which must appear on lines by themselves) are
executed (using /bin/sh) once before all log files that match the wildcarded pattern are rotated,
before prerotate script is run and only if at least one log will actually be rotated. These
directives may only appear inside a log file definition. Whole pattern is passed to the script as
first argument. If the script exits with error, no further processing is done. See also lastac-
tion.
Atualização:
Aqui está uma postagem do Stackoverflow sobre o tipo de script que você pode executar: