Siga estas etapas:
Monte o arquivo em uma unidade local.
Faça um ponto de montagem
Por exemplo:
mkdir /media/mathworks
Em seguida, monte o ISO nesse diretório. Por exemplo, se você baixou o ISO e ele está na pasta home na pasta de downloads e o ISO é chamado matlab.iso
(no seu caso, você precisa mover do CD Drive):
mount -t iso9660 -o loop ~/downloads/matlab.iso /media/mathworks
Agora você pode navegar lá e executar o instalador
cd /media/mathworks
./install