Deverá fazê-lo:
sudo ppa-purge ppa:kubuntu-ppa/backports
Ao invés de apenas retirar o kubuntu *, ele também extrairia qualquer dependência que poderia ter vindo do ppa (por exemplo, uma versão estranha do Qt), e forçaria a reversão para pacotes a partir do repositório padrão.
Idealmente, deveria ter sido executado antes de você tentar remover o kubuntu *.