No passo 8 da minha pergunta, indiquei que "mudei o BIOS do meu PC para inicializar apenas a partir do USB". Ou seja, eu entrei na configuração do BIOS, tornei o dispositivo USB meu primeiro dispositivo de inicialização e desabilitei todos os outros.
Depois de muita cabeça arranhando e experimentando com o Ubuntu e o grub para entender por que isso não funcionava, eu finalmente tentei pressionar F8 na inicialização para pegar o Popup Selection Selection do meu PC. A partir daí, eu selecionei o disco rígido USB e voilá! .. o menu do grub que eu configurei na unidade USB apareceu e eu pude usar o Ubuntu na minha unidade externa, ignorando completamente a unidade interna.
Eu ainda não entendo porque isso funciona ao usar o pop-up de seleção de inicialização do meu BIOS, mas ele não funciona ao selecionar o dispositivo USB como o primeiro dispositivo de inicialização na configuração do meu BIOS. No entanto, isso claramente não é um problema do Ubuntu ou do grub, mas sim algo errado com o BIOS da minha placa-mãe (estou usando um ASUS P5KPL-CM).