Eu estava recebendo o mesmo erro quando adicionei os mapeamentos na configuração do aplicativo. Eu vi este post link e movi minhas entradas de mapeamento para o nível do site e eles são herdados pelo aplicativo embaixo e eu só habilitei IISClientCertificateAuthentication no nível do aplicativo (desativado no nível do site) e ele começou a funcionar.
Tente mover os mapeamentos para a configuração do nível do site e ative a autenticação do cliente no nível do aplicativo. Boa sorte e feliz ano novo!