Você precisa ativar o "ISAPI-dll" para que ele manipule arquivos * .dll e não os sirva estaticamente
No IIS7, temos um aplicativo fornecido como um arquivo .dll. O aplicativo é conhecido por funcionar no II6 em um servidor diferente.
Ao navegar pelo URL deste aplicativo, ele envia o próprio arquivo .dll como um arquivo binário (fornecendo o prompt "Download: você deseja abrir ou salvar este arquivo" no navegador). Para o aplicativo funcionar, queremos que o ISAPI execute a DLL e envie o HTML resultante.
Qual poderia ser o problema? O que precisa ser configurado para fazer isso funcionar? Nós tentamos adicionar o arquivo .dll específico a ambos os IsApiFilters ou a um Mapa de Script em HandlerMappings (usando o manipulador IsApiModule). A lista de módulos mostra que o IsApiModule está carregado.
A lista de mapeamentos do manipulador para todo o servidor mostra a ISAPI-dll na seção Desabilitada com o Caminho: "*. dll", tipo de caminho: "arquivo". Esta entrada é relevante? Pode de alguma forma ser movido para a seção Enabled?
[usando a GUI do Gerenciador do IIS para editar configurações]
Você precisa ativar o "ISAPI-dll" para que ele manipule arquivos * .dll e não os sirva estaticamente
Além da resposta @ user85569 , há a possibilidade de você usar o chrome, que baixará um arquivo contendo o saída de texto do filtro, e se você não abrir esse arquivo, você acha que foi realmente o dll sendo baixado.
Pode estar funcionando corretamente; Experimente com o IE.