Para mim, isso apenas grita fonte de alimentação ou placa-mãe. Simplesmente desde que você tem problemas para inicializar sem o cartão, mas eles são mais raros, então eu diria que o cartão usa mais energia e que um dos componentes ao longo do caminho não está fazendo o trabalho corretamente.
Primeiro, verifique se a placa de vídeo tem um alto-falante pequeno. Eu vi cartões que podem dar um som de clique ou bipe quando eles não têm energia suficiente para funcionar ou se o cabo de alimentação extra não estiver conectado corretamente.
Em seguida, se possível, tente executar o computador em outra fonte de alimentação e veja se o problema ainda está lá. Se ele for embora, é o PSU, senão eu diria que é a placa-mãe.