É apenas algo que você aprende com o tempo e com muita experiência. É uma coisa de familiaridade.
O registro é apenas o local central onde as configurações são armazenadas. Qualquer programa pode ler ou escrever para ele. Muitos dos valores nele contidos são significativos apenas para o aplicativo que os criou. Algumas são muito bem documentadas e algumas são muito mal documentadas ou não são de todo. Se você trabalha muito com o registro, fica sabendo onde certas coisas deveriam estar, e quais ramos da árvore fazem coisas diferentes. Depois de saber disso, você tem uma ideia de onde começar a procurar quando as coisas dão errado.
Você geralmente apenas flexiona seu Google-Fu e encontra o problema de erro / comportamento / similar, descobre qual componente poderia causar, Google que, forma uma hipótese, o Google mais ... Se você tiver sorte, consegue um documento obscuro em algum lugar que explique o que está procurando ou como as coisas funcionam. Se você não fizer isso, experimente usar qualquer conhecimento adquirido ao longo de sua jornada.
Se você fizer isso várias vezes e explodir alguns computadores ao longo do caminho, obterá uma compreensão mais profunda da relação entre quais componentes fazem as coisas e onde essas coisas são registradas no registro. Nem todo mundo está à altura da tarefa. Às vezes, é preciso apenas tentativa e erro de força bruta, ou longas horas de comparação do estado de uma máquina com outra, alterando uma configuração e vendo o que acontece.
Suponho que o que estou tentando dizer é que não há manual que soletre tudo para você. O registro é uma fera complexa e leva anos de prática para ser bom o suficiente apenas para chegar ao local que está causando problemas. Mesmo assim, ainda há muitas adivinhações e palpites envolvidos.