Isso ocorre porque, na configuração do firmware UEFI, nenhum layout de teclado específico foi carregado. Portanto, ele retorna a um padrão do firmware, que quase certamente é um layout de teclado dos EUA.
O computador não sabe realmente o que está impresso nas várias teclas do teclado. O que ele sabe, é como mapear códigos de varredura de teclado para números de caracteres (normalmente em ASCII), que por sua vez sabem exibir como glifos na tela.
O que você está vendo é um efeito dessa indireção.
Existe uma tecla \ em algum lugar do seu teclado enquanto você está na configuração UEFI (e acontece que é a mesma tecla que é normalmente usada para # em o layout de teclado do Reino Unido, como descobrimos nos comentários), e você terá que fazer um pouco de experimentação para encontrá-lo. Você deve ser capaz de encontrar qualquer chave que exista em um layout de teclado dos EUA, embora a localização física da chave que produz esse glifo possa ser algo não óbvia.
Você verá o mesmo efeito se definir seu sistema operacional para usar um layout de teclado dos EUA.