Hoje em dia, a maioria das distribuições Linux vem com uma GUI (por exemplo, Gnome, KDE, etc) já instalada. A instalação é feita a partir da mídia (por exemplo, CD-ROM, DVD ou pen USB) sem acesso à Internet. Então, está disponível assim que você instalar o seu sistema.
Este é o caso, por exemplo, das chamadas distribuições "Desktop" (por exemplo, Ubuntu, Mint, etc.). No entanto, depende da distribuição específica e cada distribuição é livre para fazer o que quiser.