"source tree" não é um termo específico para o desenvolvimento de fontes do kernel, então tem que ser um termo mais geral e seu significado com relação à fonte do kernel depende do contexto.
Eu não me deparei com "in-tree" e "out-of-tree" fora do desenvolvimento de fontes do kernel do Linux e, em seguida, apenas para trabalhar com modules . Todos os módulos começam como desenvolvimentos "fora da árvore", que podem ser compilados usando o contexto de uma árvore de origem. Quando um módulo é aceito para ser incluído, ele se torna um módulo em árvore. Eu não encontrei uma definição oficial para ambos os termos, talvez isso nunca tenha sido necessário, pois ficou claro para aqueles que trabalhavam com os módulos o que significava.
Por exemplo enquanto o módulo Reiserfs ainda era um módulo fora da árvore Eu fiz a geração de pacotes RPM para o SuSE, uma vez que se tornou na árvore, não havia mais necessidade disso.