Parece que o Thunderbird não suporta esta funcionalidade, no entanto, existem algumas discussões aqui e aqui que discutem as opções para fazer isso com o seu gerenciador de janelas / ambiente de trabalho. Essencialmente, executando-o minimizado, sem ícone da bandeja do sistema, etc.
Para que seja executado apenas por alguns minutos, você pode iniciar TB usando um script:
#!/bin/bash
/usr/bin/thunderbird &
sleep 300 # 5 minutes
kill $!
Outra opção seria usar outro programa para baixar seus e-mails para você e fazer o Thunderbird ler o e-mail do seu disco local. OfflineIMAP faz um bom trabalho se o seu servidor de correio suportar o IMAP. O Fetchmail é outra opção que também funciona com o POP3.