Geralmente, o Varnish pode entregar um cache várias vezes maior do que o Tomcat - normalmente, o TTFB é microssegundo para Varnish e milissegundos para o Tomcat. Portanto, o desempenho do conector (AJP vs HTTP) provavelmente não importará quando o verniz estiver envolvido. Então, escolha a configuração mais simples - o Tomcat fala diretamente com o Varnish. O efeito marginal que o AJP pode ter será completamente insignificante.
Se você está pensando em não ter o Varnish lá, acho que a pergunta que você deve se fazer é qual será a taxa de acertos das páginas dinâmicas do Tomcat. Se for > 20%, acho que o aumento geral no desempenho pode valer a complexidade extra, dependendo da intensidade das páginas.