Não exatamente pelo PAM, mas sim, é possível. Você pode configurar isso usando tcp_wrappers , modificando seu /etc/hosts.allow , se sua distro fornecer a extensão aclexec :
sshd: aclexec whois %a | grep <ISPNAME>
Ou você pode incluir o comando em um script que possa ser chamado facilmente.
Mais informações podem ser encontradas na página de manual de hosts_options(5) .