Em geral, você continua checando por e-mail, a menos que, como mencionado por @JoelDavis , o servidor possa ser estendido com algum comando push.
Além disso, se o seu servidor de e-mail suportar, pode-se usar a extensão IDLE para o IMAP4:
O IMAPClient tem suporte nativo para o IDLE: