você não precisa criar um alias. Simplesmente adicione o diretório matlab bin
ao seu PATH.
PATH=$PATH:/home/user/matlab/bin
adicione esta linha também a .bashrc
e, em seguida, source .bashrc
se você quiser torná-la permanente. Agora você pode executar o comando matlab
sem precisar criar um alias.
Mas, para saber seu erro acima, você provavelmente já entendeu a sintaxe do alias de maneira errada.
A sintaxe do comando é
alias alias-name="command"
exemplo
alias l='ls -CF'
Então, no seu caso, você tem que escrever o apelido dessa maneira
alias matlab='/home/user/matlab/bin/matlab'
Portanto, corrija a escrita e insira-a em .bash_aliases
ou adicione-a diretamente a .bashrc
e, em seguida, execute comman source .bashrc
ou source .bash_aliases
Outra maneira de pensar.