Tenho certeza que o limite que você atingirá é que você ficará sem RAM para as estruturas de dados do kernel envolvidas. É possível que a arquitetura da CPU seja importante (por exemplo, porque as estruturas de dados são de tamanho diferente ou precisam ser alinhadas de maneira diferente), mas qual CPU x86_64 em particular você não deve importar.
Uma plataforma de 32 bits pode limitar você a 2 31 -1 (isto é, MAXINT), mas você certamente ficaria sem RAM primeiro - um descritor de arquivo ocupa mais de dois bytes de RAM. (Claro, você está em uma plataforma de 64 bits - e 2 63 -1 é um número absurdo de arquivos para abrir)
Confesso que não sei como calcular o número - e certamente depende do tipo de descritor de arquivo; O uso de memória do kernel é certamente diferente se for um soquete TCP, abrir um arquivo local (pode até ser diferente por sistema de arquivos), pipe, etc.
Honestamente, sugiro que você ative uma instância EC2 temporária (com o mesmo tipo de máquina), defina o limite como um valor absurdamente alto e teste.