Você pode tentar o plug-in xauth-pam , que delega a autenticação para PAM , combinado com o pam_script (consulte esta resposta em Stack Overflow para um exemplo).
Outra opção é escrever um plugin customizado para strongSwan que, por exemplo, chama um programa externo para autenticar os usuários. Já existem vários plug-ins XAuth que você pode procurar por ideias.
Credenciais XAuth que podem ser usadas pelo plug-in xauth-generic também podem ser fornecidas a partir de bancos de dados (usando o plugin sql ), ou de plugins personalizados.