Os códigos de erro estão listados nos artigos de ajuda do technet oficiais. .
Neste caso específico, o código 5 significaria acesso negado.
ERROR_ACCESS_DENIED 5 (0x5) Access is denied.
Você provavelmente precisará executar o comando dentro do mesmo contexto de usuário ou usar um acesso administrativo para alterar a prioridade do processo.
Veja também Alterando a prioridade do processo do Windows via linha de comando para alguns mais opções. É provável que seja mais fácil iniciar o processo com uma determinada prioridade, p. usando START
.