O OS X é baseado em Unix, então você precisa usar barras /
para separar diretórios em caminhos. Além disso, espaços em caminhos de diretório precisam ser prefixados por uma barra invertida \
.
Você só precisa especificar o caminho do diretório inteiro se ainda não estiver lá. Então, para tornar o comando mais simples, primeiro cd para o diretório com o comando:
$ cd /Applications/VirtualBox.app/MacOS/
Agora você pode executar o comando (note que o ~ é apenas uma maneira fácil de escrever /myusername/
:
$ VBoxManage modifyhd ~/VirtualBox\ VMs/Windows\ 98/Windows98.vdi --resize 1000
Boa sorte e bem-vindo ao maravilhoso mundo da linha de comando do OS X:)
Editar
Como apontado por devius, o comando modifyhd requer o caminho completo para o .vdi.