Eu tenho um laboratório no qual tenho três computadores conectados a um switch.
duas das portas do switch são espelhadas para uma terceira porta, de modo que toda a comunicação entre os dois computadores seja espelhada para o terceiro computador.
Eu gostaria de criar uma configuração de laboratório semelhante, mas com máquinas virtuais. Não tenho nenhum problema em configurar esse laboratório virtual apenas com os computadores (não com o comutador) (usando redes vagabundas e privadas), mas há algo que eu possa usar para substituir a parte do comutador?
Eu li sobre o Open vSwitch, mas como alguém poderia conectá-lo a outras máquinas virtuais para que ele funcionasse como um switch?
"...but is there something I can use to replace the switch part?"
Sim. Você poderia alterar o adaptador de rede da terceira máquina virtual (aquele que era o destino do espelhamento) para estar no modo promíscuo.
Agora todo o tráfego de toda a máquina virtual passará pela sua terceira VM. 
Claro que existe. O Mikrotik CHR, por exemplo, pode funcionar bem como um switch. No entanto, não espere o desempenho do switch, onde o processador processa o trabalho de um ASIC, mas é provável que você execute um cenário de baixo tráfego.
Se você estiver executando em uma plataforma baseada em Linux, há uma ponte de kernel integrada. Por apenas três VMs eu realmente não sugeriria mais nada, particularmente porque a maioria - se não todas - implementações de VM no Linux já suportam isso.
O espelhamento de porta não é nativo da ponte, mas usando uma disciplina de enfileiramento você pode adicionar essa funcionalidade bastante diretamente .
Não se esqueça de que você ainda precisa de um comutador VLAN (entre) se usar mais de um nó de hardware!
Basta pesquisar no Amazon para alternar VLAN.