Tente adicionar também:
ProxyPassReverse /jenkins http://123.45.67.89/
Provavelmente no ProxyPass você está mantendo o cabeçalho do host original ( ProxyPreserveHost On
), se for o caso, com este ProxyPassReverse provavelmente fará o truque para você.
EDITAR:
Eu verifiquei no meu mini laboratório e o ponto é que o Jenkins não está fazendo um redirecionamento, mas está dando a você esse html
<meta http-equiv='refresh' content='1;url=/login?from=%2F'/>
Eu resolvi a inicialização de jenkins com o switch --prefix=/jenkins