Adicionar
<dataContractSerializer maxItemsInObjectGraph="2147483646" />
para o seu machine.config em C: \ Windows \ Microsoft.NET \ Framework64 \ v4.0.30319 \ Config
ou para .NET mais antigo em:
C: \ Windows \ Microsoft.NET \ Framework64 \ v2.0.50727 \ CONFIG
(Use a pasta framework64 para 64 bits, caso contrário use a pasta framework )
O texto deve ser adicionado no elemento endpointBehaviours . Então, meu é assim:
<endpointBehaviors>
<dataContractSerializer maxItemsInObjectGraph="2147483646" />
<Microsoft.VisualStudio.Diagnostics.ServiceModelSink.Behavior/>
</endpointBehaviors>