Uma maneira de fazer isso é usar vários perfis do Firefox. Abra o Firefox com um perfil para todos os sites para os quais você gostaria de manter cookies / cache / history e abra o Firefox com outro perfil para os sites específicos que você deseja limpar o histórico (ao sair, por exemplo).
Lembre-se de que limpar o histórico (como mencionado em outra resposta) para um site específico não limpa o cache. Apenas remove as entradas do histórico do navegador.
As entradas de cache do Firefox podem ser examinadas digitando about:cache
na barra de endereço e clicando no link Entradas de Cache de Lista em Dispositivo de cache de memória e Dispositivo de cache offline . Todos os sites e seus objetos que estão na memória ou no cache off-line podem ser visualizados aqui.
Refere-se:
1. link
2. link