O Dosbox é configurado no arquivo de configuração. O arquivo de configuração está localizado na pasta /home/$USER/.dosbox/
:
Esse arquivo deve ser de propriedade do usuário, portanto, clicar duas vezes nele no gerenciador de arquivos deve abrir o editor padrão. Abra o arquivo e role para baixo até memsize=
line:
Altere a linha para o total de memória desejado em MB, mas o tamanho máximo é 63 MB . Salve o arquivo depois de alterar o tamanho da memória desejada e inicie o dosbox.
Espero que isso ajude!