Depois de mais pesquisas no Google, descobri que a resposta é usar a opção whichwrap .
Eu adicionei a seguinte linha ao meu .vimrc:
set whichwrap+=<,>,[,]
As opções < e > ativam a configuração desejada para o modo normal e [ e ] ativam a configuração desejada para o modo de inserção.