Você esqueceu o nome da turma a ser executada. Normalmente os programas Java são executados assim:
$ java MainClass
$ java -jar foobar.jar
Você pode usar -D
para definir as propriedades do sistema, mas ainda precisa da classe ou JAR para executar:
$ java -Djsse.enableSNIExtension=false MainClass
$ java -Djsse.enableSNIExtension=false -jar foobar.jar
Até onde eu sei, você não pode definir as propriedades do sistema permanentemente; mesmo se você o fizesse programaticamente, seria apenas para essa execução, então você precisa continuar passando o -D
flag toda vez que você rodar qualquer coisa que não esteja funcionando