Michael estava certo, há um bug no módulo net_smtp
pear. O MediaWiki pode ser configurado para desconsiderar as configurações padrão e não tentar mexer nos e-mails TLS. Esta não é a resposta certa, os e-mails não estão sendo criptografados, mas pelo menos são enviados.
Em LocalSettings.php:
$wgSMTP = false;
$wgEmailAuthentication = false;