Você precisa usar o layout de teclado que é um dos idiomas nativos ou a conversão de, digamos, o layout de teclado do canadense (inglês) para o desktop remoto, causando problemas.
Experimente o inglês (EUA) em vez do atual ou, melhor ainda, use o mesmo que o do desktop remoto. Se eles forem iguais, verifique se eles são um dos nativos.