Xen, KVM, Hyper-V e Vmware suportam o aumento de RAM sem reinicializar.
É feito através de drivers de balão.
verifique seu suporte no Guest
cat /boot/config-'uname -r' |grep -i balloon
Na minha VM, mostra
CONFIG_VMWARE_BALLOON=m
CONFIG_XEN_BALLOON=y
CONFIG_HYPERV_BALLOON=m
CONFIG_VIRTIO_BALLOON=m
Mas para aumentar a RAM, você precisa definir o máximo de RAM para os convidados, sem esse valor você só pode diminuir a RAM, mas não pode aumentar a RAM (pelo menos no Xen e no KVM, não tem certeza de como fazê-lo Vmware e Hyper-V)