Sim, você pode usar essas formas em seu pendrive para pular diretamente para Experimente o Ubuntu ou Instalar o Ubuntu.
Existem 3 formas:
A maneira mais fácil: Faça o download do UNetBootin ou PendriveLinux para Windows. Selecione o seu ISO, neste caso, o Ubuntu 12.04 LiveCD, já que você quer que ele seja inicializado diretamente no Ubuntu e não nos menus. Selecione o ISO do Ubuntu que você baixou e o diretório da sua unidade flash. Se você quiser evitar a exclusão de arquivos sempre que inicializar, marque a caixa "Ativar persistência". Basta pressionar Next e é isso! Seu Ubuntu 12.04 será inicializado diretamente no LiveCD.
A maneira fácil alternativa: Se o seu stick de boot já tiver persistência (evitando a exclusão de arquivos toda vez que você inicializar), abra o Terminal (Ctrl + Alt + T) e digite este comando:
sudo apt-get purge ubiquity
Isso removerá o Ubiquity, o LiveCD Installer. (Aviso: Você pode não conseguir instalar o Ubuntu usando o seu USB depois disso.)
A maneira não tão fácil: Usando o YUMI ou algum outro software, adicione um GRUB Bootloader ao seu dispositivo USB e modifique o menu de inicialização para pular diretamente para o LiveCD. Eu não tenho nenhum conhecimento disso, você pode querer consultar outros usuários.
Mas a primeira opção é a melhor e funciona sem problemas. Feliz explorando o mundo do Ubuntu:)