Isso ocorre quando um aplicativo usa páginas de erro personalizadas hospedadas em um aplicativo em outro pool de aplicativos.
Como você descobriu, é possível contornar isso colocando os dois aplicativos no mesmo pool de aplicativos ou pode instruir o IIS a ignorar os limites do pool de aplicativos ao executar solicitações que resultem em erros personalizados. Navegue até a seguinte chave no registro:
HKLM\System\CurrentControlSet\services\W3SVC\Parameters
Crie um novo DWORD
com o nome "IgnoreAppPoolForCustomErrors" e valor 1
Você precisará emitir um comando IISRESET /restart
em um prompt de comando elevado para ativar essa alteração.