O IE sempre teve problemas para recuperar e armazenar em cache favicons. A Microsoft também nunca colocou muito (qualquer?) Esforço para corrigir o problema. Ele está lá há tanto tempo quanto me lembro, mas pelo menos desde o IE 6. Uma pesquisa rápida na Internet mostra muitas queixas semelhantes e nenhuma solução. Você pode pesquisar por "IE X favicons" (com 6, 7, 8 e 9 para X) e obterá os mesmos relatórios.
Não acredito que a afirmação de Moab de que a expiração da história seja a culpada, nem que a história seja um mau lugar para armazenar favicons. O Chrome e o Firefox usam o Histórico e o Cache para armazenar favicons .... embora versões mais recentes do Firefox usem o Places, e ele é extremamente difícil remover favicons no Firefox agora .