Eu sei como você se sente; Eu tentei muitas distribuições diferentes antes de sentir as diferenças, e continuo tentando novas, geralmente em uma máquina virtual ou em uma partição extra.
Eu realmente não acho o Gnome lento e inchado, mas eu não estou muito feliz com a direção que ele passou recentemente com o shell do Gnome 3. O Gnome é bastante simples comparado ao KDE, mas não é tão personalizável, e está ficando menos personalizável, parece.Acho o KDE um exagero e nunca passei tempo suficiente para me sentir confortável com isso. Tem muitas opções, widgets, etc, e claro, algumas pessoas adoram por isso. O KDE também pode ter a maior variedade de aplicativos (nativos) disponíveis, mas eu não usei o suficiente para realmente saber.
Do seu post, acho que você deveria olhar para o XFCE. É o menos inchado dos ambientes mais completos, sem muitos extras. Ele executará a maioria das mesmas coisas que o Gnome executa, já que ele usa o mesmo toolkit de GTK.
No entanto, é possível rodar aplicativos do KDE usando o Gnome, etc, comprar você também precisa instalar qualquer biblioteca de suporte, etc, são necessários para eles. Muitas pessoas não gostam de fazer isso, mas se você tiver bastante espaço em disco, provavelmente está tudo bem.
Sendo novo, recomendo aderir a uma distribuição mainstream como Fedora, Ubuntu, Debian, etc., já que softwares de terceiros são mais propensos a ter uma instalação fácil para seus programas.
Devo acrescentar que tudo isso é uma questão de opinião mais do que qualquer outra coisa, a menos que você adicione mais alguns critérios que possam diferenciar mais as diferenças.