Eu tive o mesmo problema: aqui está como eu consertei. Eu tinha mudado do driver nouveau de código aberto que vem pré-carregado no Ubuntu para a versão proprietária nVidia 361.42. Então eu peguei o erro que você fez. Acontece que o matlab ainda não é compatível com a versão mais recente do driver nVidia. Então eu fiz o downgrade do driver para a versão proprietária do driver 340.96. Os pacotes de drivers estão na guia de drivers adicionais do Software & amp; Atualizações.
Eu então reinstalei o matlab e instalei o pacote matlab-support (código abaixo).
sudo apt-get install matlab-support
Boa sorte!