O Compiz requer uma boa aceleração de hardware para funcionar bem, o que geralmente significa que você terá que ter uma placa gráfica relativamente recente. Se a sua placa de vídeo é um antigo acelerador da Intel, um VIA, ou mesmo um antigo Nvidia 4000/5000, considere ficar longe do Compiz ou atualizar para um hardware mais moderno.
Se você tem uma placa decente, provavelmente algo está mal configurado.