Existem muitas maneiras de implementar isso em um servidor Linux, mas a maneira mais simples é usar um dos muitos pacotes de software projetados expressamente para essa finalidade.
Veja, por exemplo, o projeto do Linux Terminal Server ou Abra o ThinClient .
Como alternativa, você pode fazer o seu próprio usando um servidor RDP. O XRDP é uma opção, e está disponível nos gerenciadores de pacotes da maioria das principais distribuições do Linux.