Se a carta se mover de 6 a 8 mm ou mais (o seu "cerca de um quarto de polegada ou um pouco mais"), então eu diria que ela não está bem encaixada e segura.
Isso também explica por que ele está funcionando melhor (ou "menos ruim") quando o computador está do seu lado do que quando está em uma posição vertical normal. No primeiro caso, a força gravitacional na placa gráfica puxa-a para dentro do slot; no segundo, a gravidade exerce uma força na placa gráfica real e as únicas coisas que resistem a ela são a conexão com o slot e o parafuso de fixação. Como a placa de vídeo é razoavelmente alta, essas forças podem ser bastante substanciais devido ao peso dos componentes na placa.
Se o que você quer dizer é que o cartão é flexionado por essa quantia quando você o empurra para baixo, eu diria que algo ainda está errado porque realmente não deveria. O tipo de forças que se propagaria através da placa de circuito de tal flexão poderia facilmente danificar juntas de solda e traços elétricos na placa de circuito. Eu diria que talvez metade disso, no máximo, poderia ser flexão aceitável, mas mesmo assim eu ficaria desconfiado.
Em ambos os casos, você terá que descobrir por que a carta se move ou se flexiona nessa quantia e corrigir esse problema subjacente, e você pode encontrar-se precisando obter um novo cartão; com sorte, você será capaz de obter uma substituição na garantia.