Este tutorial é um pouco antigo, mas deve ser um bom guia, independentemente do sistema de autenticação de dois fatores escolhido. Para que a autenticação de dois fatores funcione no linux, sua melhor opção é passar pelo PAM. Aponte o PAM para o seu servidor de autenticação de dois fatores via pam-radius, pam-ldap etc.
Há também uma solicitação de recurso para permitir o SASL OTP no Roundcube.
hth
nick