O DOSBox usa o SDL, que pode ser solicitado para usar um driver de exibição diferente, configurando a variável de ambiente SDL_VIDEODRIVER . O driver dummy não exibirá nada, nem mesmo uma janela.
No Unix, use o comando export shell:
export SDL_VIDEODRIVER=dummy
e no Windows, use set .
set SDL_VIDEODRIVER=dummy
Note que no Windows, você precisará usar -noconsole para evitar que o DOSBox gere a janela do terminal de status.
Fonte: esta postagem no fórum .