Pode não parecer legal, mas este comando irá encontrar todos os diretórios que contêm arquivos mp3 gravá-los em um arquivo temporário e, em seguida, passar por esse arquivo temp listando o conteúdo de cada diretório. Se você está feliz com a saída, você pode ir em frente e ligar o seu comando mp3gain no lugar do ls.
Definir a variável IFS como um caractere de nova linha é importante para que você possa trabalhar com arquivos e diretórios que contenham espaços.
A razão pela qual escolhi listar diretórios contendo mp3s primeiro é no caso de o mp3gain gerar um erro ao encontrar conjuntos vazios de arquivos. Desta forma, nunca encontra tal situação.
IFS=$'\n'; for i in 'find -type f -iname *.mp3'; do dirname $i ; done | sort | uniq > ~/mp3directories.txt && for i in 'cat ~/mp3directories.txt'; do ls -1 $i/*.mp3 ; echo ; done