Não existem pacotes libglvnd nos repositórios padrão do Ubuntu 16.04, então você deve ter obtido a instalação incompleta do libglvnd de alguma outra fonte de software, possivelmente dos arquivos da Nvidia que você tinha removido anteriormente, se não de algum outro pacote que usa a biblioteca de gráficos GL. Portanto, permita instalar uma cópia completa do libglvnd para garantir que o NVIDIA CUDA Toolkit 9.1 funcione corretamente.