Após investigação adicional e sugestão de Janoszen de ler o log (que eu deveria ter feito antes)
O formato da chave na chave autorizada foi confuso.
- Por causa das quebras de linha (chave não em uma linha)
- É necessário adicionar
ssh-rsa
antes da linha de chave
Obrigado por me apontar na direção certa.