Se você abrir o Firefox / Opções / Privacidade, deverá haver uma opção (caixa de seleção) que permite "Lembrar histórico de pesquisa e formulário" se você desmarcar a caixa que o Firefox não manterá e formará os dados.
Você também pode usar um limpador de privacidade embutido ou algo como CCleaner para remover esses dados periodicamente.