As entradas no painel esquerdo podem ser um pouco confusas, principalmente porque podem parecer representar uma hierarquia fixa, quando não fazem isso. Tudo o que eles são é atalhos. Uma lista de atalhos arbitrários com nomes simples, para levar você a lugares comumente usados.
Algumas respostas a pontos específicos que podem ajudar:
"This PC" seems to not even exist as any kind of element of the file system
Não faz parte do sistema de arquivos. O sistema de arquivos faz parte do seu PC. "Este PC" é apenas um agrupamento que representa, bem, o seu PC. Se você tivesse dois discos instalados, eles apareceriam aqui.
"This PC" as pretty much the main grouping. Within that, we have documents, downloads, etc. and it seems pretty easy. However, the path of these folders is really C://Users/name/Documents.
Sem problemas; Documentos, Downloads etc são simplesmente atalhos do Windows. Isso significa que você não precisa caber todo o texto no painel esquerdo e é mais fácil de ler.
sometimes I save them in C://Users/my-name directly. Obviously that was a mistake.
Não, é o mesmo que usar o atalho. Você pode fazer o que for mais fácil para você no momento.
The last piece of the puzzle is the program files folders [...] It would be so much easier if there were a "programs" folder right alongside downloads and pictures.
Não realmente; este é o File Explorer. Usuários tecnicamente experientes certamente podem usar o File Explorer para se aprofundar nas partes do sistema de arquivos onde os programas são armazenados, mas, a menos que você esteja interessado em fazê-lo, não há necessidade. Para acessar seus programas, basta usar Iniciar.
So if I download a program like eclipse, I'm supposed to save it in program files right?
Não, você deve executar seu programa de configuração. O Windows cuidará de onde os arquivos moram. Você acabou de executar sua configuração para instalá-lo e depois executá-lo a partir do Início.