Does the [system properties][primary dns suffix] on our Windows 2008 servers have anything to do with internet connections?
O que está acontecendo aqui é que o servidor SMTP está usando o FQDN das propriedades do sistema quando se identifica com servidores SMTP externos. É quase certo que esse FQDN não é um FQDN válido na sua zona DNS pública e, portanto, não pode ser resolvido por esses servidores SMTP externos.
O que você precisa fazer é configurar as propriedades do servidor virtual SMTP para usar um FQDN válido para se identificar e criar o registro A apropriado para esse nome em sua zona DNS pública. Também faça com que seu ISP crie o registro PTR apropriado para o endereço IP público do qual o e-mail de seu servidor é originado.