Um sistema instalado é portátil entre computadores, mas não tão portátil quanto um sistema ao vivo ou persistente. Coisas a verificar:
- Evite drivers proprietários.
- Normalmente, um sistema instalado funcionará no modo UEFI ou no modo BIOS, não em ambos. Mas é possível criar um sistema que possa ser inicializado nos dois modos, conforme descrito em este link .
- Verifique se o sistema é compatível com o hardware do computador. O Ubuntu de 32 bits funciona em hardware de 32 e 64 bits, mas o Ubuntu de 64 bits precisa de hardware de 64 bits.
- Verifique se o gerenciador de inicialização foi instalado na unidade USB (e não na unidade interna), como sugerido no comentário de @ C.S.Cameron.
O seguinte link e links podem lhe dar várias dicas que o ajudarão a criar um sistema Ubuntu portátil, que funcionará nos computadores, onde você quer executá-lo.