A solução foi remover a pasta Ubuntu da partição efi.
Eu segui as instruções em: Como faço para remover "Ubuntu" no BIOS menu de inicialização? (UEFI) , mas o Ubuntu continua reaparecendo como uma opção de boot. Existe uma maneira de corrigir isso? Edit: Também é possível formatar a partição efi? Edit 2: Eu posso removê-lo, mas na próxima vez que ele for reinicializado, ele reaparecerá.
A solução foi remover a pasta Ubuntu da partição efi.
Tudo o que você precisa fazer é remover manualmente o Ubuntu no menu UEFI. Se não houver essa opção, entre em contato com o fabricante. E não há necessidade de formatar a partição EFI, eu recomendo que você nem tente fazê-lo, porque isso é bastante arriscado.