Basicamente, sem entrar muito em detalhes:
A Interface do usuário (UI) é um termo genérico para o espaço onde ocorrem interações entre o usuário e o computador. Principalmente, você está falando aqui sobre uma Interfaces Gráficas de Usuário (GUI) .
O ambiente de área de trabalho é uma GUI que é uma implementação da metáfora da área de trabalho e permite que os usuários interajam com um sistema operacional. O GNOME e o KDE são exemplos de ambientes de desktop Linux.
O shell gráfico é o núcleo de um ambiente de desktop específico e permite que o usuário execute tarefas básicas, como iniciar um programa ou pesquisar arquivos.