Primeiro você precisa instalar o Oracle Virtualbox, não a versão OSE do repositório.
Depois que ele estiver instalado e funcionando, você NÃO precisará fazer o download do ISO. Basta navegar até a parte superior da tela da sua VM e selecionar instalar adições de convidados:
Observe que o servidor é a única referência do convidado do Mac OS. Mas as adições de comentários funcionam para a edição do servidor.
Com essa configuração, a passagem USB deve funcionar. Em seguida, basta selecionar um dispositivo para repasse (neste caso, seu pendrive).
Antes de ligar o convidado, vá para a guia Configurações desse convidado no VirtualBox e clique em USB:
Selecione Ativar Controlador USB e Ativar Controlador USB 2.0 (EHCI) e clique em OK: Usando dispositivos USB no convidado
Agora conecte seu dispositivo USB (por exemplo, sua unidade flash USB) e selecione-o nesse menu. Em seguida, desconecte-o e conecte-o novamente, apenas para garantir a segurança.
Por último, inicialize sua VM e ela deve tratá-la como um dispositivo USB nativo. Se não instalar também o pacote de extensão.