Quando você instalou o SQL, você usou a instância 'padrão' ou uma instância 'nomeada'? Se você não tiver certeza, dê uma olhada no painel de controle Serviços (em Ferramentas administrativas).
Se os serviços para SQL tiverem (MSSQLSERVER) após eles, você estará na instância 'padrão'. Se eles tiverem mais alguma coisa depois deles (por exemplo, (SQL2005)), então você está em uma instância 'nomeada'.
Conectar-se à instância padrão é simples - basta conectar-se ao nome do servidor. Se você estiver em uma instância nomeada, será necessário conectar-se ao nome do servidor, nome da instância de barra invertida ().
Por exemplo, se sua instância nomeada for "SQL2005", você se conectaria a SERVER \ SQL2005.
Com isso em mente, qual é a mensagem de erro exata que você está recebendo?