Primeiro, verifique se sua instância do SQL Server tem o protocolo TCP / IP ativado. Em seguida, examine qual porta TCP / IP sua instância do SQL Server está "escutando".
Em seguida, se houver um firewall nessa máquina, marque Se houver uma exceção nas regras (entrada) para o programa SQL Server Management Studio Em caso afirmativo, ele poderá passar pelo firewall, mas o ODBC não.
Sobre a referência do servidor, você pode tentar Referenciar seu servidor como "servername \ instancename" ou usar o número da porta, tente "servername, 1433" ou "servername \ instancename, 1433" como seu endereço de servidor.
O seu servidor também precisa saber em qual porta responder, quando a porta TCP estiver em branco, não significa usar a porta padrão. Dependendo do que você deseja alcançar, pode ser necessário fazer ou verificar se uma dessas ações é feita corretamente:
Como a alocação de portas é definida no seu servidor
link
Configurar um servidor para escutar em uma porta TCP específica (SQL Server Configuration Manager)
link
Atribuir uma porta estática a uma instância nomeada do SQL Server - e evitar uma armadilha comum
link
Para conectar-se a servidores SQL remotos, você tem duas opções: uma é usar IP e Port (que é mais seguro) ou explícita especificar a instância nomeada e abrir a porta UDP 1434 e habilitar o navegador do SQL Server.
O motivo é: Somente instâncias nomeadas do SQL Server podem usar o processo de alocação de porta dinâmica. No processo de alocação de porta dinâmica, quando você inicia a instância do SQL Server pela primeira vez, a porta é definida como zero (0). Portanto, o SQL Server solicita um número de porta livre do sistema operacional. Assim que um número de porta é alocado para o SQL Server, o SQL Server inicia a escuta na porta alocada.
Quando uma instância do SQL Server usa alocação de porta dinâmica, a cadeia de conexão criada no cliente do SQL Server não especifica a porta TCP / IP de destino, a menos que o usuário ou o programador especifique explicitamente a porta. Portanto, a biblioteca de cliente do SQL Server consulta o servidor na porta UDP 1434 para coletar as informações sobre a instância de destino do SQL Server. Quando o SQL Server retorna as informações, a biblioteca cliente do SQL Server envia os dados para a instância apropriada do SQL Server.
Se a porta UDP 1434 estiver desabilitada, o cliente do SQL Server não poderá determinar dinamicamente a porta da instância nomeada do SQL Server. Portanto, o cliente do SQL Server talvez não consiga se conectar à instância nomeada do SQL Server. Nessa situação, o cliente do SQL Server deve especificar a porta alocada dinamicamente onde a instância nomeada do SQL Server 2008.
Além disso, dependendo do que você deseja, você pode querer usar um ODBC do sistema, em vez de um ODBC do usuário. A diferença é que o ODBC do usuário está vinculado a uma conta de usuário na máquina.