As novas aplicações web do ubuntu podem ser uma resposta à sua pergunta.
Ainda não está pronto. No entanto, você pode testá-lo via ppa em 12.04.
Detalhes completos: link
PPA para pré-visualização:
sudo add-apt-repository ppa:webapps/preview
sudo apt-get update && sudo apt-get install unity-webapps-preview
No entanto, isso requer que a página seja mantida aberta no navegador.
Além disso, você pode usar o recurso de notificação de desktop do Google Chrome. (Isso também requer que o email seja mantido aberto na página do navegador)