A simples alteração da autenticação do Anon para o Windows Auth resolveu o problema.
Temos um Windows Server 2012 R2 que hospeda o IIS8. Um dos sites é uma página html básica com links (o servidor hospeda outros sites internos, então eles fizeram isso básico já que o IIS já estava funcionando).
Também temos um WFE do SharePoint em outro servidor. No SharePoint, colocamos um link para um atalho (eles passam parâmetros por meio do destino em propriedades. Não sei por que isso é feito dessa maneira, mas eu não os vejo mudando seus caminhos).
Para fins de teste, também fiz um compartilhamento no meu computador, criei uma página HTML simples com um link apontando para o mesmo atalho.
O SharePoint e meus links de páginas html funcionam bem, mas quando clicamos no link no servidor, nada acontece. A página hospedada pelo servidor também possui links de protocolo http e eles funcionam conforme o esperado, são apenas protocolos file: /// que se recusam a fazer nada.