Existem várias coisas que definem uma distribuição, além do nome. Sistema de empacotamento (deb, rpm, ...), ambiente padrão (por exemplo, o tipo de "init" usado como padrão), e uma série de outras coisas, como política de agendamento, principais usuários-alvo, etc. Observe que o compartilhamento de certas ferramentas essenciais não fazem duas distribuições "irmãos". Veja o caso de Red-Hat e SuSE, por exemplo: no gráfico vinculado por @Zenklys, você vê que o SuSE é uma derivação inicial do Slackware, mas eles emprestaram o sistema de empacotamento de RPM da Red-Hat, eu acho que não reinventar o roda.
A maioria dessas coisas são decisões que alguém (uma empresa, indivíduo ou uma comunidade em desenvolvimento) toma para você. Algumas distribuições são bastante diferentes umas das outras e não têm quase nada em comum em suas origens (Debian e Red-Hat são dois exemplos dos primeiros tempos ...), resultado de esforços paralelos em alcançar um ambiente de trabalho, mas outros nascem apenas porque uma comunidade considerável concorda que certos aspectos de uma distribuição existente poderiam ser feitos de uma maneira diferente, como ter ciclos de lançamento mais curtos (ou maiores!) ou talvez tornar a distribuição menos "geral" e focar certos aspectos, como criação de mídia pré-instalação de ferramentas, tente ter configuração de hardware melhor / mais fácil para coisas específicas ...); ou quando uma empresa decide que pode fazer negócios ajustando uma distro para determinados públicos-alvo.
Vamos continuar com o Ubuntu daqui em diante, mas tenha em mente que esse processo é semelhante em todo o mundo.
Naturalmente, tomar a forma "derivada" significa começar com um sistema operacional a partir do dia 0, onde o trabalho se concentrará em fazer as alterações desejadas e em manter-se atualizado com a versão "pai".
O Ubuntu é uma derivação do Debian nesse sentido: eles tomaram uma distribuição em funcionamento e decidiram várias coisas: padrão (e oficialmente suportado) ambiente de desktop e temas, colocando ênfase em um usuário não-root sendo capaz de acessar todos as áreas restritas (configuração de hardware, por exemplo), etc., e também integrar ferramentas e, às vezes, também desenvolver novas ferramentas, para atingir seus objetivos. Em algum momento, eles começaram a tomar decisões mais fundamentais, como mudar os subsistemas cruciais (por exemplo, para upstart) ou a versão padrão das ferramentas, por exemplo, a do Python, na qual o Ubuntu depende muito. Algumas dessas mudanças podem acabar não ocorrendo na distribuição original, ou apenas demorando mais tempo ... ou o contrário, quando você não gosta de uma mudança feita na distribuição pai e organiza as coisas para que o seu a distribuição permanece da mesma forma como foi (como quando o Ubuntu se mudou para o Gnome 3 como padrão).
Então, novamente, em algum momento os usuários do Ubuntu decidiram que não estavam satisfeitos com todas as escolhas que estão sendo feitas para eles, então você acaba com derivativos como Kubuntu ou Xbuntu que podem não) acabam por alcançar um certo status "oficial" dentro do projeto original.
O Ubuntu manteve um certo nível de feedback com o Debian, tornando mais fácil levar seu conhecimento de um para o outro (até certo ponto), mas isso não precisa ser verdadeiro para todas as distribuições derivadas.
E assim por diante ... mas a resposta está correndo há muito tempo: P