Pode ser que mailx
obedeça aos feeds de linha do DOS ou algum outro problema com a exportação do Outlook. O formato deveria ser muito simples; registros começam com uma linha "De" que é seguida pelos cabeçalhos de mensagem, uma linha em branco e, em seguida, o corpo da mensagem e eu acho que outra linha em branco antes do próximo registro "De". Então, para contar o número de registros
grep -c '^From ' archive.mbox
deve ser suficiente, pois esse padrão pode não aparecer em um corpo de mensagem (é por isso que você pode ver "De" em mensagens prefixadas com algum caractere ao usar arquivos de caixa de correio).
Existem outras ferramentas que podem analisar arquivos de caixa de correio, por exemplo Mail :: Box (que eu não usei) que possa ter melhores mensagens de erro que mailx
.