Eu acho que você está usando errado. Apenas digitando setx
não vai cortá-lo, como o prompt de comando vai acreditar que é um programa. Como não o encontra, esta mensagem de erro é emitida.
As formas corretas de usar o setx podem ser vistas aqui , por exemplo. A parte principal é que depois de setx
você precisa anexar o nome e o valor da variável que deseja alterar, para que ela seja avaliada como um comando interno.