Posso confirmar que o multicast funciona entre duas VMs do VirtualBox (v4.3.20) usando a rede em ponte. Usei o pacote open-mtools para testar o tráfego, juntamente com Wireshark no host. Aqui está um teste de amostra:
Da VM1 (Receptor):
mdump -omdump1.log 224.9.10.11 12965
Da VM2 (remetente):
msend -1 224.9.10.11 12965 15