A primeira coisa a fazer é abrir o Console na pasta Aplicativos / Utilitários e percorrer os registros para ver se há algo que acontece antes de você travar / reiniciar.
Existem alguns utilitários de diagnóstico diferentes para verificar problemas de hardware que você pode tentar:
TechTool Deluxe é o utilitário que vem com Applecare.
OApplejack é um utilitário que você executa após a reinicialização no modo de usuário único.
Você também pode segurar D enquanto reinicia seu computador. Isso iniciará o diagnóstico de hardware interno. Como você tem um Mac mais antigo, você terá que fazer isso com o CD de Aplicativos que acompanha o computador no slot da unidade.
O problema não é necessariamente relacionado a hardware, por isso, esperamos que você encontre algo no console que mostre alguns problemas de software sempre que seu Mac travar.
No entanto, considerando os sintomas que você descreve, parece que pode ser uma corrupção do Controlador de Gerenciamento do Sistema (presumindo que seja um iMac baseado em intel). Eu tentaria seguir estas instruções para redefini-la.