Normalmente, quando você instala o Ubuntu, ele se instala em um 'gerenciador de inicialização', como Grub
Com o gerenciador de inicialização, você pode voltar ao Windows selecionando a opção correta na inicialização (inicialização).
Se, no seu caso, você não tiver nenhum carregador de inicialização instalado e tiver reformatado a partição do Windows, será necessário instalar o 'Windows 7'.
Para criar um USB inicializável no Ubuntu, consulte este artigo: link