Isso parece um problema de permissões simples. O usuário root não tem o direito de acessar a sessão X do usuário, a menos que você permita. Então, use gksu
em vez de mudar para root:
gksu ./install-tl -gui perltk
Ou, permita o acesso à sua sessão X antes de mudar para o root:
$ xhost +
access control disabled, clients can connect from any host
$ sudo -i
Quando terminar, saia da conta root e reative o controle de acesso:
$ xhost -
access control enabled, only authorized clients can connect