Na verdade, o google fez mais escrevendo um sistema de plataforma de aplicativos / máquina virtual para rodar em cima do linux do que modificando o linux. Eles basicamente só usaram como base para construir, eles dificilmente tiveram que tocá-lo.
Quanto à sua pergunta, comece a fazer as coisas. Pegue algumas distribuições linux, instale-as em seus computadores ou em VMs, aprenda o seu caminho em torno delas e, em seguida, comece a cutucar plataformas customizadas, como embeded, uma vez que você já conhece as cordas. Encontre alguns dispositivos para hackear, codificar alguns projetos seus e, em seguida, encontre alguns projetos de código aberto para ajudar. Ao longo do caminho, você descobrirá como responder à sua própria pergunta.