A idéia é que você sempre tenha um arquivo principal relativamente novo (como access_log ou error_log) que contém as entradas mais recentes. Como o log se torna muito antigo ou muito grande, o logrotate cria arquivos arquivados para que nenhuma informação seja descartada (algo como access_log-YYYYMMDD).
Portanto, logs mais antigos ainda podem ser acessados sem que o arquivo de log principal fique fora de controle em relação ao tamanho. Arquivos menores com menos informações são mais fáceis de ler e depurar - especialmente em servidores ocupados, onde esses logs podem crescer para vários GB.
No CentOS, por exemplo, os logs do Apache são rotacionados a cada 7 dias.
Você pode excluir os arquivos mortos quando quiser ou deixar o logrotate manipular a exclusão também.
Confira o man logrotate para mais detalhes.