Em geral, as diferentes distribuições são muito semelhantes, e as principais diferenças além das ferramentas de gerenciamento de pacotes são a configuração de software específico.
Por exemplo, sob um sistema Redhat / CentOS, você instalará o Apache via yum ou dnf e os arquivos de configuração viverão abaixo de /etc/httpd . Sob um sistema Debian / Ubuntu você instalaria via apt-get e descobriria que os arquivos de configuração vivem abaixo de /etc/apache2 .
Este é um exemplo trivial de ambos os sistemas executando o mesmo software, mas sendo um pouco diferente. Em termos reais, embora as diferenças sejam triviais.
Talvez mais interessantes sejam os diferentes sistemas escolhidos pelas distribuições. Por exemplo, o servidor de correio instalado por padrão seria sendmail no CentOS, postfix no Ubuntu e exim4 no Debian. Essas opções geralmente podem ser alteradas, mas você pode encontrar dificuldades para substituir componentes maiores e mais importantes, como a ferramenta de inicialização ( upstart vs sysv-init etc).
Atualização: /proc & /dev será em grande parte idêntico nos sistemas que executam um determinado kernel - como eles vêm do kernel (+/- udev / upstart).