como o @Shinrai sugere, é necessário desabilitar os gráficos onboard. Eu também tenho hd 5770 e intel dg41ty motherboard. meu cartão não estava funcionando como você na primeira instalação.
procure a opção onde você pode escolher entre IGP (processador gráfico integrado) e pci-e. deve estar na bios posso garantir.
passos: 1. primeiro conecte a placa-mãe à porta de gráficos onboard.
2. entre na bios e procure a opção de escolher entre as duas opções, é provável que você encontre essa opção na guia de configuração do chipset ou algo semelhante em sua placa-mãe.
escolha o pci-e dessa opção. depois salve a opção e saia da bios.
3. não reinicie logo após salvar a opção. primeiro desligar seu pc pressionando o botão de energia no gabinete.
4. Agora, após o desligamento, conecte o cabo do monitor à porta de saída da placa de vídeo.
5. inicie o computador e agora você poderá obter a exibição.
o mesmo procedimento que apliquei há apenas 1 mês.
você precisa apenas olhar atentamente a opção de BIOS da sua placa-mãe. está lá com certeza meu amigo.