Obter certificados SSL personalizados para trabalhar com o vCenter é historicamente doloroso. 5.1 foi a primeira versão em que a VMware realmente forneceu alguma orientação sobre o processo (no final do ciclo de vida da versão), mas ainda assim era bastante problemático. Derek Seaman tem, em minha opinião, um dos tutoriais mais completos sobre como fazer as coisas funcionarem corretamente em seu Guia de Instalação do vCenter 5.1 série.
No entanto, eu recomendo mover seu vCenter para o 5.5. Não há alteração no requisito de licença. O serviço SSO e o cliente da Web são significativamente melhorados. Certificados SSL ainda são uma dor, mas com menos bugs. E você ainda pode executar os hipervisores do ESXi no 5.1 se tiver motivos legados para isso. O Derek tem uma série de vCenter 5.5 similar que inclui um ótimo script do PowerShell para automatizar grande parte do provisionamento de certificados SSL.
E olhando para o futuro, o vCenter 6 supostamente terá algum tipo de serviço interno de gerenciamento de certificado SSL para aguardar.