Esse erro significa que o arquivo / programa está corrompido ou o ambiente no qual ele está sendo executado não está correto. A corrupção de arquivos é a causa mais comum.
Como neste caso, a corrupção não deve ser a causa, então o que pode estar acontecendo é que o NTVDM está danificado ou não há memória suficiente para executá-lo. O que talvez também esteja acontecendo é que você está executando uma cópia de um arquivo diferente chamado edit.com
em vez daquele que vem com o Windows, assim como o sgmoore mencionou, tente digitar o caminho totalmente qualificado: %systemroot%\system32\edit.com