É bastante difícil, na minha experiência, diminuir o uso da memória do Compiz. A melhor coisa que posso sugerir para diminuir a qualidade da textura no plugin OpenGL, mas isso não vai mudar muito afaik.
Outra fonte de aumento de memória do compiz pode ser o vazamento de memória. Isso às vezes parece ser desencadeado por indicadores, mas também pode ser de outras fontes (ainda não tenho certeza deles).
Minha solução foi reiniciar periodicamente a unidade, usando um script simples que contém:
#kill compiz completely, including all child processes, freeing it's memory:
killall -9 compiz &
#run unity and give you back a free terminal.
unity & disown
Eu sei que essa não é a melhor das respostas, então estou seguindo essa questão para ver se alguém tem melhores dicas.