A opção keyfile é para autenticação entre instâncias mongod, não SSL - trata a sua chave SSL simplificada simplesmente como uma cadeia de caracteres. O que você tem aí é uma senha muito longa, nada mais. Veja aqui para mais informações:
Você está perdendo a parte onde você tem que recompilar usando scons com o sinalizador ssl. Releia esta página:
Você precisa seguir as instruções até chegar à parte onde está escrito:
scons all
Para uma versão com SSL, você precisará usar:
scons --ssl all
Após a conclusão da compilação, o mongod reconhecerá suas opções relacionadas ao SSL. Nota - Eu fiz isso no Mac OS X muitas vezes sem problemas.