O que fizemos foi criar uma segunda URL para os usuários da FBA, para que os usuários com credenciais baseadas em NTLM acessem o site original e os usuários externos que precisam de FBA acessem essa nova URL. Ambos recebem o mesmo conteúdo, apenas com um URL diferente. Eu não me lembro de todos os detalhes do topo da minha cabeça, mas eu lembro que o biggie estava criando um Mapeamento de acesso alternativo para o novo URL.