A maneira mais fácil é usar systemd , que pode ser responsável pelo seu sshd de qualquer maneira (dependendo da distribuição). Você pode configurar facilmente os limites no arquivo sshd unit. systemd coloca todos os serviços em cgroups separados de qualquer maneira.
Sem systemd , a solução mais fácil é provavelmente uma modificação no script sshd start (tenha em atenção que não é sobregravado por uma atualização; pode ser uma boa ideia copiá-lo para um nome diferente e desativar o script original ).