Why compressed log file was not transferred to the REMOTE-HOST?
A compactação é praticamente a última coisa a acontecer, então postrotate ainda está acontecendo antes que logrotate tenha chegado tão longe. Você pode verificar a página man do exemplo de postrotate :
After the log file has been rotated (but before the old version of the log has been compressed), the command
/sbin/killall -HUP syslogd[from the postrotate script] will be executed.
Talvez seja melhor executar o rsync como um trabalho de rotina.
What should be done in order to transfer ONLY the rotated file?
Seu rsync está apenas correspondendo ao nome do arquivo original (já que * também corresponderá a arquivos sem mais caracteres) Use um nome de origem mais específico para eliminar essa correspondência:
rsync -avzr /var/log/test.log-* REMOTE-HOST:/path/to/directory/