A configuração da Diretiva de Grupo bloqueia a interface do usuário para que você não possa alterar o papel de parede por meio da rota normal, mas não impede uma modificação da chave do Registro por outros meios (como Firefox ou Paint).
HKEY_CURRENT_USER\Control Panel\Desktop\Wallpaper
está definido como %AppData%\Mozilla\Firefox\Desktop Background.bmp
diretamente pelo Firefox.
Eu acho que os usuários podem ser negados permissão de gravação para a entrada do registro, mas eu realmente não recomendaria isso.