Você não está aplicando o comando for
à ação ren
.
for /r "E:\test\" %%G in (*.jpeg) do ren "%%~G" *.png
Você precisa alterar %%
para %
se estiver fazendo isso de forma interativa e não em um arquivo em lotes.
As ~
retiram aspas, que são adicionadas novamente, para evitar possíveis erros com caminhos que contenham espaços.