Você não pode executar aplicativos do Windows no Ubuntu sem usar o WINE. Você também não pode executar aplicativos de 64 bits em um sistema de 32 bits.
Suas opções são reiniciar no Windows para executar o aplicativo ou atualizar para o Ubuntu 12.04 de 64 bits e usar o WINE ou configurar uma imagem de VM para executar sua cópia existente do Windows enquanto estiver no Ubuntu e executar o MatLab em uma VM .