Redimensionamento de VDI é suportado, mas você só pode aumentar os discos rígidos. Você tentou:
VBoxManage.exe modifyhd "C:\Documents and Settings\User\VirtualBoxVMs\windows\windows.vdi" --resize 40
Isso significa que você tenta fazer um disco rígido de 40 MB, mas seu disco rígido é maior. Experimente:
VBoxManage.exe modifyhd "C:\Documents and Settings\user\VirtualBo x VMs\windows\windows.vdi" --resize 40000
Isso faz um novo tamanho de 40 GB.