Sim. Primeiro você precisará obter um cliente (como o Thunderbird; há outras opções também) e então você precisará conectar seu cliente via pop3 ou imap (cada provedor tem instruções diferentes para isso - veja aqui um passo a passo detalhado - link
Basicamente, o processo é 1) baixar o cliente que você usará para acessar / baixar o email. 2) Obter os detalhes para se conectar ao seu provedor de email via pop3 ou imap e permitir o acesso, se necessário (veja a última linha do link acima para mais detalhes). 3) conectar o cliente à conta de e-mail externa e permitir que os dados sejam baixados.
Opcionalmente, neste ponto, você pode fazer backup de todo o seu e-mail do cliente para um arquivo compactado ou semelhante.
As configurações são um pouco diferentes para o Outlook.com, mas são facilmente encontradas.
Além do acima, como a outra resposta diz, há opções para apenas ter uma versão baixada do e-mail e não acessar através de um cliente que também funcione. Qualquer um de nós poderia ajudar com qualquer dúvida sobre essa solução também. :)