Quando você der o comando logrotate -f rotatetest para rotacionar os logs de acordo com o arquivo de configuração rotatetest , o comando selecionará o arquivo rotatetest do diretório atual .
Parece plausível que o seu diretório de trabalho atual seja /etc/rsa . Isso faria com que logrotate tentasse usar seu logfile como seu arquivo de configuração. Como não pode criar cara ou coroa no arquivo de log, ele reclama. É a string Oct na mensagem de erro que me faz pensar que ela tenta usar o arquivo de log como um arquivo de configuração.
Em vez disso, use
logrotate -f /etc/logrotate.d/rotatetest
para que logrotate escolha o arquivo de configuração correto.