Como @Michael Hampton disse, sua sintaxe está errada, mas, de qualquer forma, não acho boa ideia definir o limite de arquivos como ilimitado
Você pode ler este post para obter mais informações link
Eu baixei a versão do kernel linux-2.6.32.61 e vi isso do kernel / sys.c:
SYSCALL_DEFINE2(setrlimit, unsigned int, resource, struct rlimit __user *, rlim)
{
struct rlimit new_rlim, *old_rlim;
int retval;
if (resource >= RLIM_NLIMITS)
return -EINVAL;
if (copy_from_user(&new_rlim, rlim, sizeof(*rlim)))
return -EFAULT;
if (new_rlim.rlim_cur > new_rlim.rlim_max)
return -EINVAL;
old_rlim = current->signal->rlim + resource;
if ((new_rlim.rlim_max > old_rlim->rlim_max) &&
!capable(CAP_SYS_RESOURCE))
return -EPERM;
if (resource == RLIMIT_NOFILE && new_rlim.rlim_max > sysctl_nr_open)
return -EPERM;
do man proc
The kernel constant NR_OPEN imposes an upper limit on the value that may be placed in
file-max.
de ./fs/file.c:
./fs/file.c:30:int sysctl_nr_open __read_mostly = 1024*1024;
echo $((1024*1024))
1048576
porque você precisa de mais arquivos do que nr_open?
eu fiz um teste usando suas configurações do limits.conf:
/etc/pam.d/su:
egrep -v "^#|^$" /etc/pam.d/su
auth sufficient pam_rootok.so
session required pam_env.so readenv=1
session required pam_env.so readenv=1 envfile=/etc/default/locale
session optional pam_mail.so nopen
session required pam_limits.so
@include common-auth
@include common-account
@include common-session
Agora eu vou mudar para o usuário root usando o comando su:
root@ubuntu:~# strace -e setrlimit su - root
setrlimit(RLIMIT_NOFILE, {rlim_cur=RLIM64_INFINITY, rlim_max=RLIM64_INFINITY}) = -1 EPERM (Operationnot permitted)