max-open é o número de arquivos que um usuário pode manter aberto em sessão única simultaneamente.
Além disso, observe que todas as configurações de limite são definidas por login. Eles não são globais nem são permanentes; existente apenas durante a duração da sessão.
(do man limits.conf (5))
O valor seguro para o número máximo realmente depende do seu uso. Apontar com valores padrão é impedir a negação de serviços trivial (acidental). Há também um limite global para o número de arquivos abertos:
cat /proc/sys/fs/file-max
Você pode alterar esse número executando, por exemplo,
echo 100000 > /proc/sys/fs/file-max
(com raiz do usuário, obviamente). Melhor ainda é adicionar também a linha fs.file-max = 10000
a /etc/sysctl.conf
para carregar a mesma configuração após a reinicialização.
A partir de ulimit: é seguro aumentar esse número. No entanto, o número de arquivos abertos não deve exceder o global file-max, porque a abertura de novos arquivos não é mais possível (e, por exemplo, o login requer a abertura de arquivos).
Se houver vários usuários, lembre-se de que, se você alterar o padrão, todos poderão abrir mais arquivos. Por exemplo, 30 usuários * 5000 arquivos = 150.000 arquivos abertos (supondo que todos abram o número máximo de arquivos e usem apenas uma sessão). Se você tiver algum software realmente utilizado por muitos usuários, isso pode ser um problema.