Você pode executar matlab com a opção -nodesktop .
Exemplo

Origem:
Obviamente, não estou procurando abrir outro terminal e ssh sem -X . Eu estou realmente fazendo isso com a execução do Matlab em outro servidor. Então, depois de ssh'ing em meu servidor remoto com a opção -X , eu digito matlab e os gráficos avançam como esperado.
Como faço para executar matlab com o encaminhamento do X11 ativado, mas sem gráficos?
Você deve poder invocar matlab com a opção -nodisplay
matlab -nodisplay
ou simplesmente desmarque a variável de ambiente DISPLAY, p. em bash
DISPLAY= matlab
Tags x11