(ignoring the productivity side of things, b/c that is developer specific).
Primeiro, você não deveria fazer isso. A experiência mostra que ter construído com sucesso um produto similar na plataforma antes é o principal preditor de sucesso. Escolha seu time primeiro, por seus méritos. A menos que sua equipe esteja sugerindo uma plataforma louca e esquisita, vá com qualquer plataforma com a qual esteja familiarizada e recomendando.
Now for argument's sake let's say a single server can handle 1K users.
Eu acho que esse é o seu erro central. Quantos usuários um servidor pode suportar dependerá, é claro e totalmente, da aplicação. Mas para a maioria das aplicações web, 98% dos usuários não estão logados a qualquer momento. Um servidor de aplicativos da web básico geralmente pode manipular 200 a 800 pr por segundo. Faça as contas e você verá que muitos aplicativos podem ter várias dezenas de milhares de usuários por servidor.
Para lhe dar um exemplo com o qual você está familiarizado, a família de sites do Stack Overflow (da qual esse site é único) lida com mais de 6 milhões de visitantes únicos por mês e faz muito mais exibições de página do que isso. E aqui está o farm de servidores completo para ele.
O código aberto comercial custa dinheiro também. Dê uma olhada no MySQL, no Ubuntu, no Red Hat Linux, no JBoss e em todos os outros - você normalmente quer ter um especialista na equipe. vezes, ou compre uma assinatura de suporte da empresa de apoio.
Por último, mas não menos importante , no final, os custos com pessoal tendem a dominar completamente para < 200 instalações de servidor. Se você construir sua própria infraestrutura - em vez de usar a computação em nuvem ou um provedor de serviço completo - os salários e horas gastas em administradores de sistema geralmente excederão os custos de software. Para o Google, com seus mais de 250.000 servidores, é um assunto completamente diferente, mas, para instalações menores, isso geralmente é verdade.
Uma advertência importante: Alguns tipos de sites, como redes sociais e sites de transcodificação de vídeo, têm necessidades de hardware muito diferentes das descritas acima. Faça uma análise adequada da sua aplicação específica.