Primeiramente, certifique-se de não ter montado o pendrive no próprio Ubuntu. Além disso, apenas no caso, a última versão do VirtualBox é realmente 4.3.14, que você pode considerar a atualização para.
Mas, mais provavelmente, se você ativou o USB 2.0 após ter instalado o Windows, talvez seja necessário remover e adicionar novamente o controlador USB do Gerenciador de dispositivos do Windows, conforme pode ter sido detectado e selecionou um driver que não é realmente apropriado. É claro que a opção Hail-Mary está reinstalando o Windows (talvez em uma nova VM ou pelo menos um novo instantâneo), já que às vezes é mais rápido do que tentar que o Windows detecte novamente o hardware corretamente.