Eu acredito que você pode criar uma iso do DVD de instalação no OS X. Vá para o Utilitário de Disco e selecione o DVD, clique em Nova Imagem na barra de ferramentas e escolha "DVD / CD Master" como o formato. Após a conclusão, altere a extensão .cdr para .iso e acho que o VirtualBox deve reconhecê-la ...