Você sabe que ficou em apuros se o único resultado de pesquisa relevante para o seu problema for a pergunta do Serverfault que você acabou de fazer.
Experimente:
HKLM\System\CurrentControlSet\services\NTDS\Parameters\Maximum Audit Queue Size
Você terá que criar a chave, pois ela provavelmente não existirá. É completamente não documentado (publicamente) pela Microsoft e, portanto, provavelmente não é suportável. A única razão pela qual eu sei que o Directory Services verifica a existência dessa chave é porque eu corri Procmon e reiniciei o AD DS para ver quais chaves reg ele procura.
Eu não testei nem tenho um Active Directory tão louco quanto o seu para testá-lo, mas duvido que você obtenha uma resposta melhor sem entrar em contato com o suporte da Microsoft.
A maioria das outras chaves parece haver DWORDS, então eu começaria com isso.
O lsass.exe procura durante a inicialização do AD DS usando a função RegQueryValueExA . Infelizmente, não consigo ver os parâmetros passados para a função, portanto, não posso dizer exatamente qual tipo de chave de registro precisará ser. Você só precisa testar.