Fechar o firefox, excluir %AppData%\Mozilla\Firefox\Profiles\<your profile>\favicons.sqlite
Isso é mais fácil de fazer do que a solução do peqhusus, mas significa que você perderá todos os favicons em cache e precisará recarregar seus favoritos para obter os ícones novamente.