Tente inicializar seu sistema usando o parâmetro nomodeset. Você pode definir este parâmetro quando o grub carregar, pressione o botão E. Procure a linha que começa como
linux /boot
e adicione no final da linha nomodeset. Então deve ficar assim
linux /boot ********* quite splash nomodeset
Depois disso, pressione CRTL + x e veja se você pode inicializar agora. Se for bem-sucedido, recomendo que você tente instalar os frivers FGRLX para o seu cartão. Você pode encontrar o HOW TO aqui