Não há limite para o número de entradas no arquivo. Do código-fonte
auth2-pubkey.c
/* return 1 if user allows given key */
static int
user_key_allowed2(struct passwd *pw, Key *key, char *file)
{ ...
while (read_keyfile_line(f, file, line, sizeof(line), &linenum) != -1) {
char *cp, *key_options = NULL;
Como você pode ver, simplesmente faz um loop sobre o arquivo até read_keyfile_line retornar -1.