Como se constatou, eu não tinha o pacote de extensão do VirtualBox instalado. Por alguma razão, a documentação do VirtualBox não menciona que você precisa do pacote de extensão para executar o servidor VRDE no Windows.
A versão do Linux (ou pelo menos a versão incluída na maioria dos repositórios de pacotes do Linux) parece ter esse componente por padrão, então eu não esperava que estivesse faltando no Windows.