O OpenFire é um servidor XMPP gratuito que pode usar o MySQL ou o LDAP para usuários, listas de discussão, etc. Já faz um tempo desde que eu usei, mas costumava ser muito fácil de configurar. Tudo é apenas apontar e clicar e uma questão de escolher nomes e senhas, principalmente.
Você pode encontrar mais informações sobre isso aqui: link
Existem também outros servidores XMPP nos arquivos, mas não tenho nenhuma experiência pessoal com eles. Eu recomendo que você experimente o OpenFire primeiro, pois é provavelmente o mais fácil. Isso não significa necessariamente que é a melhor solução para uso a longo prazo. Eu não estou qualificado para ser o juiz disso, então eu recomendo que você dê uma olhada em outros servidores também.