Parece-me que você está experimentando os resultados de uma peça ruim de hardware . (desde que você afirma que o problema existe mesmo em diferentes sistemas operacionais).
Eu tenho um AMD Dual-Core, Ubuntu 9.04 Desktop com um NVidia Gefore 8800 executando o Compiz e monitores dual dvi e nunca, nunca tive um bloqueio como você está descrevendo. Esta máquina funciona constantemente.
Aparentemente, não estou usando os drivers mais recentes da NVIDIA. Estou executando a versão 180.44.
Editado para adicionar a seguinte sugestão sobre como isolar este hardware com falha:
Se este fosse o meu PC, começaria a eliminar as variáveis. Troque a placa de vídeo por qualquer outra que você tenha. O problema desaparece? Se sim, você encontrou o culpado. Se o computador continuar a travar da mesma maneira com uma placa de vídeo totalmente diferente, será necessário isolar uma peça de hardware diferente. Lembre-se de que uma placa de vídeo pode falhar somente quando estiver estressada, o que indicaria possivelmente um resfriamento ruim ou até mesmo uma falha de energia. A RAM também é algo que pode começar a falhar com o tempo e causar falhas.
FYI: Muitos computadores vão enfatizar 100% da CPU quando deixados na tela da BIOS. Então, como um teste de estabilidade / calor da CPU, você pode ficar ocioso na tela de integridade da BIOS (aquela que mostra a temperatura da CPU) e ver se o computador esquenta demais ou trava nele. Se isso acontecer, eu suspeitaria da CPU e / ou do seu resfriamento. Você está fazendo overclock em alguma coisa?