No que diz respeito aos Serviços de Diretório, você já mencionou o principal concorrente para o AD, o Open LDAP. Mais alguns que eu conheço são:
No que diz respeito às alternativas do Exchange, convém analisar esta questão , mas algumas das mais populares são: