Certifique-se de ter seu aplicativo de instalação instalado, pois o OS X não inclui isso por padrão. Além disso, você mencionou que deseja instalar o El-Capitan e o comando:
iesd -i /Applications/Install\ OS\ X\ Yosemite.app -o Desktop/yosemite.dmg -t BaseSystem
Ativaria o aplicativo Yosemite , que você também precisava instalar antes. Você precisa ir até a App Store e baixar o aplicativo para o El-Capitan.
Então, você poderia apenas reescrever o caminho de Yosemite para El-Capitan. O comando ficaria assim assumindo que o aplicativo está no local padrão (pasta Aplicativos).
iesd -i /Applications/Install\ OS\ X\ El\ Capitan.app -o Desktop/elcap.dmg -t BaseSystem
Isso criaria elcap.dmg na sua área de trabalho para usar no Virtualbox