Acho que a configuração de rolagem desejada é
set menu_scroll
Para definir o tamanho dessa caixa, use
set pager_index_lines=6
em que o valor é um a mais que o número de linhas de mensagens que você deseja mostrar.
Existe uma configuração para o .muttrc que não consigo encontrar que permita isso? Tenho certeza de que esse tipo de coisa vai contra os puristas, mas aposto que isso pode ser feito.
Pergunta bônus: Como eu posso aumentar o espaço (caixa de entrada) no topo do modo de visualização de mensagens do mutt de 4 linhas para mais?