Descobri que o sistema, por algum motivo, precisa de um arquivo de troca que eu desabilitei durante a última sessão de trabalho. Após a reinicialização, essa alteração foi aplicada e a VRAM parou de funcionar corretamente. Nota importante é que eu tenho 8G de RAM, que foi o suficiente em todos os testes realizados.
Não só precisa estar no sistema, mas também precisa ser bem grande. O arquivo de paginação de 200MB aumentou o "limite" de VRAM para cerca de 200-300MB.