Você pode tentar algo assim:
multitail -l "ssh remotehost tail -f /var/log/messages" \ -l "ssh remotehost tail -f /var/log/mail.log"
Tenho certeza de que há muitas opções multitail
agradáveis, mas isso deve pelo menos ter o básico funcionando.