O cliente Microsoft RDP para macOS (e IOS) sempre usa o nível de criptografia mais alto suportado pelo sistema operacional no lado do servidor. (Ele retornará a nenhuma criptografia se o servidor não puder fazer a criptografia, o que normalmente nunca deve ser o caso.)
Portanto, não é necessário ativá-lo por conta própria (e não há como fazê-lo manualmente, tanto quanto eu sei). Está sempre ligado.