Isso fará o trabalho para você.
rename 's/.m4b$/.m4a/' *.m4b
Para um teste, você pode usar este comando:
rename 's/.m4b$/.m4a/' *.m4b -vn
-v
significa "verbose" e emitirá os nomes dos arquivos quando eles forem renomeados.
-n
fará um teste onde não renomeará nenhum arquivo, mas mostrará uma lista de arquivos que serão renomeados.