Para cada camada ...
- Selecione a camada.
- Ir para a camada > Máscara > Adicionar máscara de camada ...
- No menu que aparece, escolha o canal alfa da camada de transferência.
Agora, você verá que as duas camadas têm duas caixas de "visualização" no painel "Camadas".
Agora ...
- Selecione (clique com o botão esquerdo) a caixa à direita na camada que usa apenas o canal alfa.
- Selecionar tudo (Ctrl + A)
- Copiar (Ctrl + C)
- Selecione a caixa à direita na camada que não usa o canal alfa.
- Cole (Ctrl + V)
- Ir para cores > Inverta para inverter as cores no novo canal alfa.
Isso deve fornecer os resultados desejados. Eu também excluiria a camada (ou ao menos torná-la invisível) que não usa RGB depois disso, mas suponho que não seja necessário, já que é transparente.