Sim, você pode simplesmente baixar o ubuntu iso do site www.ubuntu.com. Então você pode usar UNetbootin como @karel indicado. Existem algumas ferramentas diferentes para escrever iso's para sticks USB.
Eu não uso janelas há algum tempo. Você também pode simplesmente baixar o arquivo iso para o windows, e então usar um emulador de drive como o Daemon Tools para montar o iso como se fosse foi uma viagem. Então você pode abrir o Ubuntu e dar uma olhada. Se você ainda quiser criar um USB, clique no Ubuntu Dash e digite "startup disk creator". O criador de disco de inicialização tem a opção de instalar o ubuntu em um pendrive. Depois de escrever o iso no pendrive, você pode reinicializar e carregar a partir do pendrive.