Você não pode ter dois módulos do kernel tentando usar a extensão vt-x de uma só vez. Portanto, você não pode ter duas máquinas virtuais assistidas por hardware executadas por dois hipervisores diferentes ao mesmo tempo, no mesmo nó.
No entanto, você pode remover o módulo que está atualmente usando a extensão via modprobe (e amigos). Isso liberaria a extensão para uso pelo outro hipervisor.
Para kvm , os módulos que você precisaria remover são: kvm , kvm_intel ou kvm_amd . então virtualbox teria permissão para usar vt-x .
O mesmo vale para qualquer módulo que virtualbox insira no kernel.
Você pode usar qemu (a ferramenta userland normalmente emparelhada com kvm ) com a emulação de software. Ele faz isso por padrão quando você não especifica -machine accel=kvm ou -enable-kvm e você terá uma máquina virtual sem aceleração assistida por hardware.
Não estou muito familiarizado com virtualbox , por isso não tenho a certeza das suas opções, para máquinas virtuais não aceleradas.