Você não pode alterar a memória enquanto a máquina virtual estiver ligada. Desligue a máquina e você poderá usar a caixa ou o controle deslizante.
Quando tento editar a configuração de memória da minha máquina virtual do Windows XP, a caixa está desabilitada e não consigo fazer nenhuma alteração. Isso também é verdade ao tentar mover o controle deslizante.
Alguma sugestão?
Você pode ver isso por si mesmo aqui:
Tags memory vmware-workstation