Em teoria, sim, assumindo que o sistema é a arquitetura certa - você precisará configurar o drive para ser inicializável (o que muitas unidades são de qualquer maneira - você veria esses drives como um disco fixo no windows), e simplesmente instalar o ubuntu para essa unidade. Supondo que você não tente executar o Ubuntu de 64 bits em um sistema de 32 bits (para que seja mais seguro usar o sistema de 32 bits), o pior que deve acontecer é que você precisará inicializar no modo de segurança. Eu costumava fazer isso com um monte de sistemas de 32 bits, mas eles eram todos da mesma geração / design de 32 bits x86 (eu estava executando principalmente core 2 duos).
Eu recomendaria uma variante menos 'pesada' do Ubuntu, já que eles não dependem tanto da composição. O Linux lida com interruptores de hardware surpreendentemente graciosos, a menos que ele não tenha um driver necessário, e a instalação básica inclui muitas coisas que você 'pode', mas nem sempre precisa.
Eu também recomendo fazer a instalação do Linux no disco rígido externo de um sistema sem outro disco rígido para garantir que o gerenciador de inicialização seja instalado no MBR da unidade externa. Isso não é necessário, mas torna as coisas mais seguras.
Finalmente, sua milhagem pode variar - alguns sistemas simplesmente não inicializam alguns drives externos, e você vai querer testar esse arranjo em alguns sistemas antes de confiar que ele seja o seu sistema de driver diário.