Você não pode simplesmente atualizar a biblioteca do Qt para uma nova versão como tal. Quase tudo o que depende do Qt precisaria ser recompilado em relação à versão mais recente.
Se você quiser uma versão mais recente, uma opção pode ser verificar o estábulo néon do KDE .
Pode ser melhor atualizar para o Ubuntu 18.04, como é um LTS e também inclui o Qt 5.9, que é uma versão LTS do Qt.