Eu não acho que você possa fazer isso simplesmente selecionando / desmarcando canais RGB, mas você pode obter o que precisa indo até Colors > Components > Decompose
, selecionando RBG como método de decomposição e escolhendo se deseja que os canais sejam exibidos como diferentes imagens ou como camadas de um único.
Depois de executar as operações necessárias nas camadas RBG, você pode ir para Colors > Components > Recompose
para recuperar a imagem completa.