A sintaxe para executar um jar-file é
java -jar jarfilename.jar
Não tenho certeza se o pedido java filename -jar
causa o problema, mas você pode tentar alterá-lo.
Você tornou o jar executável?
sudo chmod a+x file-to-make-executable
Navegue até a pasta que contém o arquivo jar e execute esse comando.
Espero que isso ajude