Não, não pode funcionar. Um dispositivo não pode ser passado a menos que o host tenha drivers rudimentares para ele.
Eu tenho um modem que não funciona com o Windows 7. Seus drivers são para XP. Meu computador executa o Windows 7. É possível configurar uma instância virtualizada do Windows XP e instalar os drivers lá e usar o modem por meio da instância virtual do XP? Ou isso não funcionaria porque o modem não funciona na máquina host?
Eu tentei fazer isso e ele não está funcionando, mas não sei se é porque o host não suporta o modem ou se eu o configuro mal.
Editar:
O modem é um modem interno ( USR5699B ).
Se você tivesse um modem USB, provavelmente funcionaria: o VirtualBox é capaz de passar a conexão USB diretamente para o sistema operacional convidado, portanto, não importa se há drivers para o host, como descrevi na minha responder a esta questão relacionada .
De 4.1 beta 2, o VirtualBox tem suporte experimental para passagem PCI; no entanto, ele funciona apenas em hosts Linux.
Portanto, como você tem um modem PCI e está executando um host Windows, concluo que é impossível usá-lo da maneira desejada.