Surpreendentemente, os maxlogins aplicam-se diretamente somente aos logins do shell, ou seja, os manipulados pelo sshd. (Capsula segura). Já que você está interessado em SFTP / portforwarding, você terá que usar outra coisa.
Você pode modificar o script fornecido nesta questão relacionada para detectar processos sftpserver ou scponly. Ele também deve funcionar para detectar o encaminhamento de porta excessivo. Infelizmente não é tão limpo quanto uma simples diretiva.
Script: Como posso desconectar usuários ssh ou limitar o número de logins ssh?