Antes de mais nada, certifique-se de ter um subdomínio específico dyndns entry ou um wildcard dyndns entry para o seu ip. Isso significa que além de MyDomain.dynamicDNSServer.TLD
também *.MyDomain.dynamicDNSServer.TLD
ou pelo menos rt.MyDomain.dynamicDNSServer.TLD
precisam resolver para o seu ip dinâmico. Se você não tem nenhum destes você não pode usar uma configuração específica do subdomínio.
No apache, os subdomínios são especificados por ServerName
e não usam a diretiva <VirtualHost>
(consulte docs para mais informações).
O seguinte deve funcionar para o seu subdomínio:
<VirtualHost *>
ServerName rt.MyDomain.dynamicDNSServer.TLD
AddDefaultCharset UTF-8
DocumentRoot "/opt/rt4/share/html"
...
</VirtualHost>