Ok, parece ter encontrado. Pouco mal documentado.
A edição "Standard" do IAS 2003 não permite que você especifique um intervalo de IP (por exemplo, 100.100.100.0/24) como um cliente RADIUS. 2003 O IAS explicitamente informará o que você fez de errado se tentar fazer isso.
2008 R2 NPS Standard (a versão 2008 R2 do IAS) permitirá que você use um intervalo de IP como o cliente e, em seguida, forneça o erro acima. Parece que o máximo de 50 clientes com edições padrão não é avaliado pelo número de entradas em sua configuração, mas pelo número de hosts que essas entradas cobrem. Enquanto 2003 apenas cospe o boneco imediatamente, parece que o 2008 R2 tenta validar o número de hosts que você está adicionando, atinge 51 e falha.
Espero que isso ajude alguém lá fora.