De man rpc.nfsd :
The rpc.nfsd program implements the user level part of the NFS service. The main functionality is handled by the nfsd kernel module. The user space program merely specifies what sort of sockets the kernel service should listen on, what NFS versions it should support, and how many kernel threads it should use.
Como os processos nfsd reais são iniciados pelo kernel (via kthreadd como você notou), eles não são (até mesmo ordem n grand) filhos de systemd e então systemd não tem como de passar valores ulimit aumentados para eles.