Seu arquivo .reg
não parece correto. O formato é muito estranho. Deve ser algo mais parecido com isto:
Windows Registry Editor Version 5.00
[HKEY_CLASSES_ROOT\DemoStart]
"URL Protocol"=""
[HKEY_CLASSES_ROOT\DemoStart\shell]
[HKEY_CLASSES_ROOT\DemoStart\shell\open]
[HKEY_CLASSES_ROOT\DemoStart\shell\open\command]
@="\"java.exe\" -jar \"C:\Users\John\Desktop\demo.jar\""
Se isso ainda não funcionar, verifique se o java está no seu PATH. Se for, e ainda não funcionar, tente substituir "java" pelo caminho completo para o exe Java.