Cada um é um pacote completamente diferente e, embora "parecido" no sentido de serem meta-pacotes, eles são muito diferentes um do outro.
ubuntu-desktop é um metapacote para o Ubuntu Desktop padrão e seu conjunto de aplicativos que os ISOs do Ubuntu Desktop instalam (Unity, os pacotes de software selecionados, etc.); está presente nos repositórios desde que o Ubuntu Desktop foi criado. Você pode ver tudo o que "depende" (e instala) em sua listagem em packages.ubuntu.com ( este link mostra a versão Xenial do pacote; este link mostra a versão do Trusty.
ubuntu-gnome-desktop é semelhante, mas especificamente para todo o software instalado do ISO GNOME Desktop do GNOME e só está disponível desde que o sabor do Ubuntu GNOME já existia (puro GNOME sem Unity, etc.). ( este link mostra a versão Xenial do pacote e suas dependências em packages.ubuntu.com como acima; este link mostra a versão Trusty do pacote
gnome-desktop-environment é, na verdade, um pacote de transição, deixado para a compatibilidade de 'atualização' para sistemas operacionais mais antigos para sistemas operacionais mais recentes. Na verdade, é um meta-pacote em 14.04 (e não mais tarde) que apenas instala o pacote gnome . ( este link para packages.ubuntu.com mostra isso). Isto é tratado de forma diferente mais tarde, para que o pacote transicional não seja mais necessário (provavelmente apenas instalando gnome ou similar em versões posteriores).