Meu entendimento é que o IE usa o tipo de mime de conteúdo para determinar qual programa para carregar o arquivo. O tipo MIME para documentos do Word pode variar, mas o teste com o wireshark mostra os seguintes cabeçalhos de resposta para baixar um arquivo .doc de um servidor da Web IIS:
HTTP/1.1 200 OK
Content-Length: 121344
Content-Type: application/msword
Parece que você pode precisar fazer algumas alterações no registro para fazer com que o arquivo seja carregado em um programa diferente.