Possivelmente você precisa tornar o script de instalação executável:
chmod +x /media/MATHWORKS_R2012A/install
E provavelmente você também precisa tornar o java executável:
chmod +x /media/MATHWORKS_R2012A/sys/java/jre/glnxa64/jre/bin/java
Normalmente você não precisa especificar a arquitetura (-glnx86) para instalar o matlab, a menos que você queira forçar um Matlab de 32 bits em uma máquina de 64 bits