Havia vários bugs de gerenciamento de memória no Thunderbird associados à execução de ações em lotes muito grandes de emails. Acho que versões mais recentes têm muitos desses bugs corrigidos, então tente a versão mais recente da TB e veja se isso ajuda.
- Veja os comentários do bug 398684 para obter mais detalhes.