Para fazer isso (página de autenticação personalizada), você precisa implementar a autenticação e autorização nas páginas do lado do servidor, em vez de fazer com que o servidor o faça por você.
A "caixa de autenticação popup padrão" aparece porque o Apache disse ao navegador "Eu preciso de um nome de usuário e senha". Não pode pedir nada muito mais complicado que isso.
Você precisaria remover a autenticação do servidor da Web e implementar uma página de login personalizada e fazer com que cada um dos subdomínios verifique se o usuário está logado corretamente (cookie assinado ou armazenamento compartilhado).
Note que isso é muito mais trabalho para implementar do que um simples popup de navegador 'feio'.