Um arquivo que termina com '.exe' é destinado ao sistema operacional Windows. Ele nunca será executado nativamente em qualquer sabor do Linux. Você precisa obter os binários do Linux do MATLAB.
Você pode verificar os Requisitos do sistema - Release 2011b para obter mais informações. Além do suporte do Solaris, não houve muita mudança desde 2009a.