/etc/limits
é uma configuração de tempo de login. Uma alteração ali se aplica quando um usuário efetua login, não quando um processo é iniciado. Não há configuração para a inicialização do processo. Um processo herda os limites de seu pai.
Observe que um processo pode sempre escolher reduzir seus limites. Se você iniciar uma sessão de login e confirmar os limites mais altos executando ulimit -a
em um shell e executar o processo nesse shell , e os limites do processo ficarem mais baixos, isso significa que o processo é abaixando seus limites. Em caso afirmativo, você terá que explorar a configuração do programa para ver se você pode evitar que isso aconteça.