Eu tive esse mesmo problema e o resolvi usando o guia de:
link
Se você logar na máquina A via ssh da máquina B, e então executar o comando matlab terminal no diretório inicial de A, crie um arquivo no diretório inicial chamado java.opts
com o conteúdo:
-Dsun.java2d.pmoffscreen=false
Em seguida, ssh usando estas opções:
ssh -c arcfour,blowfish-cbc -Y -C username@server
Para mim, isso fez correr o matlab sobre o ssh muito, muito melhor.