O VirtualBox é uma solução muito poderosa que atende às suas necessidades.
Usando o comando a seguir, você pode capturar capturas de tela / vídeo. (Você terá que ajustar o comando com base no nome da sua VM e no nome do arquivo que deseja salvar a saída): link :
VBoxManage modifyvm vm_name screenshotpng
Para capturar vídeos, use o link :
VBoxManage controlvm vm_name videocapscreens
Você também pode fazer isso usando a ferramenta VirtualBox GUI: link