você pode testar o arquivo específico em busca de erros, executando no modo de depuração;
/usr/sbin/logrotate -d /etc/logrotate.d/nginx
Você pode forçar o logrotate a rodar via arquivo específico também
/usr/sbin/logrotate -f /etc/logrotate.d/nginx
Na maioria dos casos - a taxa de logs pode falhar devido a erros de gravação no diretório especificado (pode ser que o arquivo rotacionado já esteja presente? ou a pasta relevante está faltando?)
Se acima estiver funcionando bem, você pode precisar executar o modo de depuração usando o arquivo conf de logrotate comum (isso ativará o modo de depuração e ajudará a descobrir os problemas que não o logrotate do nginx)
/usr/sbin/logrotate -d /etc/logrotate.conf
Se acima for executado com sucesso - você precisará confirmar se os crontabs estão funcionando corretamente para o usuário Linux em questão (root?). Você pode configurar um cron simples baseado em eco para verificar o mesmo.