Se você não se importa em reiniciar, você pode tentar o Acronis True Image. Isso custa dinheiro, e eu tive várias experiências em que ele não conseguiu criar uma imagem.
Você pode usar dd e gzip para criar uma imagem. Na verdade, é bem rápido, e o gzip geralmente faz um bom trabalho em manter a imagem relativamente pequena.
dd if=/dev/sdX conv=sync,noerror bs=64K | pv | gzip -c > /path/to/backup.img.gz
Você pode melhorar a compactação zerando a parte não usada do seu sistema de arquivos.
sudo dd if=/dev/zero of=/path/to/filesystem/zerofill
sudo rm /path/to/filesystem/zerofill
Isso cria um arquivo, preenche-o com zeros até ficar sem espaço e, em seguida, o exclui.
Se você quiser criar uma imagem de disco completa, incluindo swap, você pode zerar o swap assim:
sudo swapoff /dev/sda3
sudo dd if=/dev/zero of=/dev/sda3
sudo mkswap /dev/sda3 # swap must be recreated
Veja este para mais informações.
Você pode escrever um script que faça tudo isso para você. É melhor fazer isso de um CD ao vivo, em vez de executar o sistema, para evitar inconsistência.
Se você estiver usando o XFS, poderá usar o xfsdump para criar backups incrementais em um sistema ativo. A desvantagem é que você só pode fazer nove níveis incrementais antes de ter que recomeçar com um backup completo. É uma boa escolha para backups em fita, no entanto. Você também pode canalizá-lo para gzip, para uma imagem menor.
E, claro, há rsync. É mais lento que o dd, mas pode fazer backups incrementais.
Eu não sei de nenhuma ferramenta que seja tão conveniente quanto os instantâneos do VBox, no entanto.