No Linux, refere-se ao número de threads. De setrlimit(2) (que é a chamada do sistema usada para definir os limites):
RLIMIT_NPROC
The maximum number of processes (or, more precisely on Linux, threads) that can be created for the real user ID of the calling process. Upon encountering this limit,
fork(2) fails with the errorEAGAIN. This limit is not enforced for processes that have either theCAP_SYS_ADMINor theCAP_SYS_RESOURCEcapability.
Então ps -efL | wc -l seria mais apropriado, no entanto os limites em limits.conf se aplicam por sessão de login (veja limits.conf(5) para detalhes).