Você pode ativar balão automático em um convidado libvirt editando o XML:
<memballoon model='virtio'>
O dispositivo balão de memória virtual usa um parâmetro autodeflate , cujo valor padrão é off . Defina como on para ativar o balão automático.
<memballoon model='virtio' autodeflate='on'>
Note que não há opção de GUI no virt-manager para habilitar ou desabilitar esta configuração.
Se você estiver ligando para o qemu manualmente (salve sua sanidade e não o faça), adicione ,automatic=true ao dispositivo balão, por exemplo. -device virtio-balloon,automatic=true .
Autoballooning requer qemu / kvm 1.3.1 ou posterior.
Note que isso provavelmente não resolverá todos os seus problemas de contenção de memória; é melhor simplesmente ter memória RAM suficiente para executar todas as suas máquinas virtuais.