A melhor solução é tentar uma alternativa. QtOctave . Funciona quase bem para mim. Mas se você quiser definitivamente usar o Matlab, a solução longa, mas perfeitamente funcional, é instalar o XP através do VirtualBox e obter o Matlab em execução no modo contínuo.