Você não pode "preencher" uma área com pixels transparentes se tiver várias outras camadas abaixo dela. O que você pode fazer é mesclar as camadas que você precisa em uma nova camada na parte superior e ocultar todas as camadas abaixo dela. Em seguida, use a máscara para ocultar a seção da camada que você deseja que seja transparente.
Em suma:
1. Aplicar imagem em uma nova camada (ou mesclar a nova camada)
2. Esconder todas as outras camadas abaixo do topo um
3. Adicione máscara, esconda a seção que você quer transparente
Para adicionar uma máscara, selecione a camada correta e desenhe uma seleção. Em seguida, vá para Camada > Máscara de camada > Revele a Seleção.
Isso ocultará as partes da camada que não estão selecionadas.