O Windows usa um modelo de bloqueio de arquivo no qual um arquivo não pode ser modificado de forma alguma se outro programa tiver esse arquivo aberto. É por isso que você geralmente precisa fechar outros programas ao instalar o software no Windows e reinicializar a máquina depois de fazer algumas atualizações. (Ele precisa substituir os arquivos que estão sendo mantidos abertos pelo próprio Windows, portanto, o Windows precisa ser desligado para concluir o processo.)
Neste caso, é muito improvável que a Microsoft modifique os arquivos que foram instalados pelo Firefox. O Firefox usa um número de bibliotecas de sistema que vêm da Microsoft e, aparentemente, um ou mais desses arquivos estavam entre os arquivos que a instalação do MSIE9 precisava substituir.
Quanto ao software antivírus, uma das coisas que ele faz como parte de sua operação normal é monitorar os arquivos do sistema para garantir que nenhum malware os modifique. Dependendo de como o seu software antivírus específico opera, ele pode manter esses arquivos abertos, o que (novamente) impediria sua substituição. Mesmo que isso não aconteça, verá que outro processo (o instalador do MISE9) os alterou e depois reclamará muito alto que o sistema foi comprometido. Ele também pode reverter para a versão anterior na tentativa de desfazer o "ataque" que os alterou. De qualquer maneira, isso interferiria no processo de atualização do MSIE, portanto, o antivírus precisa ser desligado primeiro.