A maneira de alterar o tamanho da pilha para executar java na linha de comando é -Xss
Neste caso, é: java -Xss1664k JavaApplication
Se você estiver usando aplicativos Java que possuem arquivos de configuração (como Cassandra ou ElasticSearch), o tamanho da pilha geralmente é especificado na variável JAVA_OPTS
do arquivo de configuração.