Não é possível obter o FQDN diretamente dentro da VM.
O FQDN é apenas um nome DNS para apontar para o recurso da VM. Ele funcionará para qualquer porta desejada, depois que as regras apropriadas do Network Security Group forem criadas para permitir que o respectivo tráfego atinja seu VM.
No entanto, você pode usar o Azure PowerShell para obter o FQDN.
$ip=Get-AzureRmPublicIpAddress -ResourceGroupName <group name> -Name <Public IP address name>
$fqdn=$ip.DnsSettings.Fqdn
$fqdn
Este é o resultado do meu teste.