Para fins de teste, eu até levantei o limite do root.
# /etc/security/limits.conf
* soft nofile 65535
* hard nofile 65535
root soft nofile 65535
root hard nofile 65535
o processo rtorrent é executado pelo usuário "user".
user@localhost:~$ ulimit -n
65535
Mas quando eu olho para o número máximo de arquivos abertos do rtorrent:
user@localhost:~$ cat /proc/1141/limits
Limit Soft Limit Hard Limit Units
Max cpu time unlimited unlimited seconds
Max file size unlimited unlimited bytes
Max data size unlimited unlimited bytes
Max stack size 8388608 unlimited bytes
Max core file size 0 unlimited bytes
Max resident set unlimited unlimited bytes
Max processes 15700 15700 processes
Max open files 1024 4096 files
Max locked memory 65536 65536 bytes
Max address space unlimited unlimited bytes
Max file locks unlimited unlimited locks
Max pending signals 15700 15700 signals
Max msgqueue size 819200 819200 bytes
Max nice priority 0 0
Max realtime priority 0 0
Max realtime timeout unlimited unlimited us
Estou usando o Debian 9.1 Stretch.
O limite max_open_files na configuração de .rtorrent.rc também é definido.
Eu reiniciei após as alterações. Alguma ideia do porquê?
Obrigado pelas suas respostas!
EDIT: Parece que a tela é o motivo. Se eu iniciar o rtorrent sem tela, tudo está bem. Alguma ideia do porquê?
Como rudimeier apontou, você também precisa alterar os limites específicos do systemd.
Alterar DefaultLimitNOFILE=65535 em system.conf e user.conf funcionou para mim!
Especificamente, esses arquivos: