Desconecte tudo o que puder, desconecte internamente e externamente e remova todas as placas de expansão e RAM. Assim, com nada além do cabeçalho de alimentação ATX principal e do cabeçalho de alimentação da CPU (e conectores de painel frontal e alto-falante conectados - ver comentários) conectados e sem RAM, se a caixa AINDA não ligar, você provavelmente tem uma fonte de alimentação ou problema da placa-mãe (as chances de uma CPU falhada são nulas, a menos que você tenha feito overclocking como um louco, e se você for experiente o suficiente para fazer isso, você não deveria estar fazendo esta pergunta).
Se ele emitir um bip em você, o que deve acontecer se você tentar ligá-lo sem RAM, reconecte o material peça por peça (começando com a RAM) para ver se consegue isolar um problema.