Quando você diz "personalizar toques de tecla", você quer usar determinados pressionamentos de tecla e convertê-los em outras chaves para o servidor? Eu não estou ciente de como você poderia fazer isso neste programa, mas eu sei que o programa que eu uso (JollysFastVNC para Mac) tem uma configuração de "entrada de teclado".
Permite escolher entre nenhuma (somente visualização, nenhuma entrada), entrada normal (as chaves básicas são enviadas para o servidor e as chaves do sistema são usadas para controlar o próprio computador do lado do cliente), entrada invasiva (alguns desses sistemas chaves são enviadas para o servidor, mas não para todas elas) e entrada imersiva (quantas chaves são enviadas para o servidor quanto possível e são ignoradas no lado do cliente). Se você puder encontrar algo assim, pode ser capaz de ajudá-lo. Caso contrário, parece que você estaria procurando uma solução mais específica para o software que está usando, sobre o qual eu não saberia.