O protocolo RDP é capaz de funcionar diretamente sobre o protocolo TCP. Isso é o que está acontecendo quando você "porta para frente" uma porta TCP externa para a porta de serviços de terminal (porta TCP 3389) de um servidor. Isso é complicado se você tiver vários servidores RDP "por trás do firewall" que os usuários remotos precisam acessar.
O RDP Gateway encapsula o protocolo RDP em HTTP ou HTTPS. Nesse tipo de configuração, você está encaminhando uma porta TCP externa para um servidor da Web em execução na porta 80 ou 443 (dependendo se você está usando SSL ou não) na máquina do Gateway RDP. O Gateway RDP desencapsula o protocolo RDP do HTTP (S) e faz uma conexão RDP em nome do cliente remoto para o servidor RDP apropriado. Isso permite que vários servidores RDP estejam presentes com o acesso de intermediação do Gateway RDP por clientes remotos aos servidores RDP.
Não estou familiarizado com este software cliente, mas especularei que o "Modo direto" e o "Modo SSL direto" são para conexão direta ao servidor RDP em execução no servidor de terminal. Ou seja, o protocolo RDP sendo executado diretamente sobre TCP sem encapsulamento adicional. Se você acabou de encaminhar porta 3389 para a Internet, você vai querer usar um desses modos. O Windows 7 e versões mais recentes suportam SSL dentro do protocolo RDP, portanto, você deseja o "Modo SSL direto" para o Windows 7 / Server 2008 R2 e os servidores RDP mais recentes. Para servidores RDP mais antigos (Windows XP, 2003), você deseja o "Modo direto".
Se você redirecionou uma porta externa para o Gateway RDP em execução na porta 80 ou 443, suspeito que você deseje usar o "Modo Gateway" ou "Modo SSL do Gateway". Se você implantou ou não um certificado SSL no seu Gateway RDP e as conexões SSL encaminhadas determinarão se você deseja "Modo Gateway" ou "Modo SSL de Gateway",