Acho que consertei meu problema. O problema inicial foi que eu involuntariamente instalei meu Ubuntu no modo legado. Eu desinstalei o Ubuntu e comecei do zero fazendo outro USB inicializável via Rufus. Quando eu iniciei o dito USB no modo live, descobri que o PC estava inicializando no modo herdado, apesar de meu bios estar definido para UEFI.
O que funcionou para mim foi fazer um USB inicializável via parte do disco na linha de comando do Windows e montar o ISO, copiando o conteúdo para o USB. Isso inicializou no modo UEFI. Eu então continuei a instalar o Ubuntu manualmente. Eu escolhi a partição EFI do Windows como o dispositivo onde eu coloco o bootloader do Ubuntu. Depois disso, tive que forçar o grub a ser mostrado por meio do comando bcdedit. Tudo estava bem depois disso.
Este caso é bastante estranho para mim e eu ficaria feliz em ouvir de vocês por que rufus não funcionou. Eu uso um Acer Aspire E 14 E5-475G-30KY. O firmware instalado é InsydeH2O v1.01.