Você não terá boa sorte tentando mudar isso na hora. Melhor é encontrar o início do processo que você deseja afetar e alterar os limites lá. Mate o processo e ele será reiniciado com os limites desejados, desde que os limites do sistema não sejam excedidos.
Aqui está um registro de alterações explicando exatamente quais linhas no documento xml precisam ser alteradas para os limites de arquivo. Além disso, certifique-se de que seus limites sejam menores do que o sistema por limite de processo ou launchd
ignorará o apelo por mais arquivos da plist inteiramente.
$ sysctl kern.maxfilesperproc