Corrija-me se estiver errado, mas é assim que entendo. Os limites são por cliente / servidor / porta. Então, à luz disso.
1) No TCP há um IP de fonte única limitado a 65536 conexões de saída teóricas MAX?
Não. Eu acredito que é limitado a 65536 teórica máxima para o mesmo IP de destino.
As estações de trabalho do Windows (versões sem servidor) têm limites impostos, o que torna esse número muito menor. O Linux tem limites de recursos, mas eles geralmente não são atingidos pelo usuário comum e você pode facilmente ajustá-los.
Você provavelmente atingirá outros limites de recursos à medida que começar a aumentar o número em qualquer lugar próximo a 64 K.
Os roteadores de nível de consumidor podem ter limites muito mais baixos devido aos recursos limitados.
2) Ou o limite é de 65536 conexões para cada host remoto?
Sim
3) As respostas às perguntas 1 e 2 são diferentes para um '... sistema não normal' [roteador Cisco atuando como um Gateway NAT]?
Não
4) Todas as questões acima assumem uma conexão TCP com estado. A história é diferente com uma conexão sem estado como UDP?
O UDP é sem conexão. Então isso não é realmente relevante para o UDP.
5) A nossa LAN estará limitada a 65536 (ou algum outro limite teórico) conexões simultâneas ao mundo externo através de um único endereço IP público?
Não.
No contexto de firewalls com informações de estado que rastreiam conexões e fornecem outros recursos de rastreamento, sim, esses módulos podem ter limites. O op não disse nada sobre qual firewall / roteador NAT está sendo usado, então não podemos nem especular sobre quais limitações ele pode impor no momento.