O PSU é o mais provável culpado, o segundo mais provável é a placa-mãe. A terceira possibilidade é algo estranho acontecer com a fiação da sua casa ou algum cabo de extensão que você possa ter entre o seu computador e a tomada elétrica (por enquanto você pode querer certificar-se de que seu gabinete está conectado diretamente à tomada se possível)
Existe uma infinidade de coisas que poderiam estar dando errado, mas eu suspeito que capacitores defeituosos na PSU estão demorando muito para se recarregar até um estado operacional. Estou trabalhando no pressuposto de que todos os outros componentes eletrônicos da sua casa funcionam bem depois que a energia for restaurada.
Você pode, como drspa44, eliminar a fonte de alimentação testando-a sem estar conectada a este computador específico (você pode conectá-la a outro computador ou usar o método que ele recomendou) para simular uma queda de energia que você cortou. para a PSU e, em seguida, inicie o computador (ou o dispositivo de teste) até o computador (ou dispositivo) se desligar completamente (os leds morrem) e a PSU é descarregada. Depois disso, é só voltar a ligá-lo (ou ligá-lo novamente) e ver o que acontece.
O que eu pessoalmente faria é tentar usar outra fonte de alimentação sem testar especificamente esta, se o mesmo resultado acontecer, o problema é muito provável com a sua placa-mãe ou com a configuração da fiação da sua casa (se for a última, você pode tentar o computador para o outro lado da sua casa e veja se ele começa mais rápido lá)
Isso é tudo o que posso pensar a partir das informações fornecidas.