Parece que sua unidade USB não é inicializável. Talvez tente baixar o .iso novamente (certifique-se de obter 32 ou 64 bits, dependendo do seu hardware).
Existem aplicativos que tornam a unidade inicializável para você, o Universal Pen Drive é bom. Apenas copiar um arquivo .zip ou .iso em um drive USB não o torna inicializável.
Depois de baixar o Ubuntu e fazer um usb inicializável, mantenha a tecla f12 pressionada (ou a opção, dependendo do hardware) e ele deverá exibir uma lista de unidades inicializáveis.
Outra coisa a verificar é o formato da unidade USB antes de você tentar colocar o Ubuntu nela, eu usaria o Fat 32.