O Kubuntu é o que você quer.
O Kubuntu é apenas o Ubuntu, mas sem o Unity e com o KDE; é por isso que é chamado Kubuntu. (KDE Ubuntu)
O Ubuntu não tem nada a ver com o KDE. Você pode instalá-lo, mas você terá que mudar de Unity, e você terá problemas de temas.
Não tenho certeza de onde a confusão é honestamente: p. Tenho certeza que o Kubuntu diz que usa o KDE.