É claro que a sua imagem no USB não está instalada / criada corretamente. Eu recomendo fazer isso em outra máquina e testá-lo naquela outra máquina.
Para a parte sobre a instalação do Ubuntu através do modo seguro do Windows XP, mesmo que seja possível, só consigo ver tantas coisas ruins vindo da instalação do Ubuntu dentro do Windows, ainda mais do modo seguro, já que ele não oferece todo o hardware corretamente detectado ou otimizado com os drivers ao carregar o Windows normalmente.
Eu recomendo fazer uma coisa no momento. Primeiro crie o Ubuntu USB em outro computador e teste-o para inicializar corretamente.
Certifique-se de que no seu PC, o Bios está corretamente configurado não apenas para inicializar a partir de um USB como primeira opção, mas também que ele permite inicializar a partir de USB (Alguns BIOS oferecem a opção de inicializar a partir de USB, mas de outro lugar).
Se você realmente inicializar a partir do USB, basta seguir as instruções para poder criar uma inicialização dupla com o Ubuntu e o Windows. Deste ponto em diante, você pode corrigir o Windows através do desktop Ubuntu, verificando-o com o fsck, procurando por arquivos corrompidos, etc.