Isso depende se você estiver usando IMAP ou POP3.
Se você estiver usando o IMAP, então sim, pois ele foi projetado para sincronizar determinadas pastas. Assim, você pode criar uma nova pasta chamada "caixa de entrada off-line" e ter uma regra que tenha movido os e-mails para essa nova pasta. Eu não estou familiarizado com as regras no Thunderbird, mas eu acho que você pode aplicar isso para e-mails com mais de N dias ou similar. Um exemplo de link
É claro que, se você mover e-mails da pasta para outra pasta não sincronizada, perderá o benefício de ter o IMAP (até certo ponto), pois esses e-mails não aparecerão em outros dispositivos!
Se você estiver usando o POP3, não, como o POP3 é projetado para baixar o e-mail. Nos clientes de email, você tem a opção de excluir o email após N dias (se houver). Mais detalhes: link
O Outlook não "faz isso" por padrão. Pode ser configurado para funcionar dessa maneira.