Isso deve ser suficiente no awk:
awk 'NR==FNR{a[$1]=$2;next}{print $0,a[$2]}' file1 file2
Seus arquivos de amostra são apresentados como separados por espaço e o código acima funcionará para arquivos separados por espaço.
Se o seu arquivo1 arquivo2 estiver separado por vírgula, você poderá fazer:
awk 'BEGIN{FS=OFS=","}NR==FNR{a[$1]=$2;next}{print $0,a[$2]}' file1 file2
PS: No awk FS corresponde ao separador de campo de entrada e OFS ao separador de campo de saída. O padrão FS e OFS é "espaço" e pode ser omitido se o espaço for o seu caso (ou seja, omitido no primeiro código)
Se você deseja combinar um separador de campo de entrada diferente e um separador de campo de saída diferente, poderá fazer algo assim:
awk 'BEGIN{FS=" ";OFS=","}NR==FNR{a[$1]=$2;next};$1=$1{print $0,a[$2]}' file1 file2
#The $1=$1 part is required to redisign the record according to the different Output Field Separator OFS
O último código para arquivos de entrada separados por espaço (como exatamente aparece na sua pergunta) e saída com separação por vírgula fornecerá:
group1,pathway1,2,3
group1,pathway4,5,6
group1,pathway2,3,4
group2,pathway2,1,4
group2,pathway3,2,5
PS: Para arquivos separados por espaço, você pode atribuir OFS="\t"
(tab) para uma saída mais agradável.