Eu finalmente consegui. A chave mágica que foi necessária para arrancar a partir de um stick USB foi a tecla de seta para a direita. Eu não sei porque, mas apenas pressionando essa tecla o pen drive finalmente inicializou.
De alguma forma, minha tabela de partições foi alterada para o modo uefi. Meu laptop tentou inicializar no modo uefi, mas eu não tenho isso, então é por isso que ele é reiniciado várias vezes.
Mudei minha tabela de partições para "msdos" e reinstalei o Ubuntu (na verdade, Mint). Agora funciona de novo. No grub eu ainda tenho algumas entradas efi.signed e quando eu escolho estas eu recebo um kernel panic e nada acontece. Eu tenho que navegar para "instalações anteriores do Linux" no grub e escolher a entrada não efi-assinado e, em seguida, tudo é iniciado.