Sua placa-mãe tem alguma voltagem, se o seu PC estiver desligado, mas a PSU ainda estiver ligada. Isso é para suportar recursos como "wake on LAN" e outras coisas.
Eu sempre troquei partes de meu computador com o PSU e nada aconteceu, mas é sempre melhor desligá-lo completamente, porque você não pode saber quais partes estão em andamento enquanto as remove. (e isso ainda não significa que eles tenham que quebrar, mas eles podem. é como desarmar uma bomba, cabo verde primeiro)
Você pode procurar o que os códigos de bipe informam, eles normalmente são uma sequência de alguns bips longos e curtos que ajudam a indicar o que está errado. (memória ruim, vga ruim etc)
Aqui está um site , esteja ciente de que BIOS diferentes 'têm códigos diferentes, mas não há muitos Fornecedores de BIOS e os códigos são muito semelhantes.