Módulos de autenticação plugáveis provavelmente são o caminho a percorrer. A Dovecot tem a sua própria documentação sobre a integração com o PAM.
A lista exata de plug-ins disponíveis depende da sua plataforma - eu uso FreeBSD , mas você pode usar o Linux .
Eu diria que provavelmente não é uma lista exaustiva de plugins do PAM, mas cada sistema operacional ou distro terá uma lista de plugins que inclui ou suporta. Outros podem ser portáteis com um pouco de esforço.