O erro 500 é devido à sintaxe incorreta SSLUserName - deve ser escrito sem %{...} :
SSLUserName SSL_CLIENT_S_DN_CN
Mas, na verdade, se você quiser exigir que a autenticação básica e o nome do certificado correspondam, remova SSLUserName (para que mod_ssl não toque em REMOTE_USER ) e use:
SSLRequire %{SSL_CLIENT_S_DN_CN} eq %{REMOTE_USER}
Outra opção que pode funcionar melhor quando usada diretamente no arquivo de configuração (não em .htaccess ):
RewriteEngine on
RewriteCond %{SSL:SSL_CLIENT_S_DN_CN} !=%{LA-U:REMOTE_USER}
RewriteRule ^ - [F]