Faça check-out do projeto de código aberto Openfire, é um servidor de protocolo jabber para que você possa configurar sua própria rede privada e ainda usar aplicativos populares como o Pidgin, já que ele usa o protocolo XMPP.
Faça check-out da página do plug-in para ver o quanto ela é extensível e se ela atende às suas necessidades.
É baseado em java, então a instalação deve ser fácil.