ambiente de hospedagem para entrega de FLVs

Question

Qual seria a configuração de hardware ideal para empurrar muita largura de banda em um site de tubo?

Temos um armazenamento em nuvem em constante expansão, no qual os usuários fazem o upload dos filmes. Depois, temos essas máquinas de entrega na Web que armazenam em cache os arquivos FLV em seus discos rígidos locais e os entregam aos usuários. Cada máquina de cache pode fornecer 1200 mbits / s, se tiver discos rígidos SAS 8. Essa máquina de cache custa US $ 550 / mês para 8x160gb - então cada máquina pode armazenar em cache apenas 160GB a qualquer momento.

Se quisermos armazenar mais de 160gb, precisamos adicionar outra máquina ... outra US $ 550 / mês..etc. Isso é muito pouco econômico, então estou me perguntando se temos algum especialista aqui que possa descobrir uma configuração melhor.

Eu estive procurando por "gluster FS", mas não tenho certeza se isso pode aumentar bastante a banda.

Qualquer ideia muito apreciada.

Obrigado!

    

Answer 1

Em geral, eu questionaria a facilidade de usar a replicação aqui. O que eu faria seria ....;)

• Descarregue os arquivos em um NAS / SAN central (possivelmente replicado conforme necessário). Você poderia usar alguns dos casos de armazenamento SUperMicro - 24 x 2,5 "unidades em 2 unidades de rack. E sim, hsted / alugado servidores não se encaixam, você precisa colocar o seu próprio. Especial necessidade = hardware especial = não o material massa hosters oferta .

• Coloque um banco de dados que atribua dinamicamente os arquivos a grupos de servidores de fluxo contínuo, para permitir que esses servidores façam algum armazenamento em cache. Eles são idênticos às entradas separadas do servidor de nomes que apontam para todos os servidores do grupo e apenas garantem que nem todo servidor tenha que armazenar em cache todos os arquivos.

• Crie grupos de servidores (conforme o ponto anterior) que são responsáveis pelo streaming de grupos de arquivos

• Deixe o cache do arquivo do SO resolver o resto. Sério;) Coloque o máximo de RAM em tal máquina e termine com isso.

• E enquanto você está nisso, quem teve a idéia super inteligente de rodar drives SAS ... você checou oyu precisa deles? Dica - colocar em drives SATA, basicamente ... WD Velociraptors. 300gb por unidade e eu aposto muito mais barato do que suas unidades SAS. Quase tão rápido, rodando 10.000 rpm. Eu os uso em bancos de dados e obtenho um IO muito econômico deles. E acho que meus requisitos de IO são mais altos que os seus (como os vídeos tendem a ser maiores do que os dados com os quais trabalho).

Basicamente, você entrou na faixa em que o sistema de armazenamento central faz sentido, e você tenta contorná-lo com itens de armazenamento medíocres - desculpe-se - e 88 drives NÃO são mais impressionantes para um servidor). O resultado é toneladas de custo de hardware;) Agora você pode ir para casos especiais (veja as ofertas de supermicro que eu coloquei - eles também têm uma grande gaiola de disco de 3,5 "para 48 discos) ou hardware especial (que incidéntally custará Um bom ajuste com seus machos frontais sem grandes discos, e um armazenamento central usando controladores RAID high-end apropriados, muitos discos e um ou dois adaptadores de 10GB devem ser bons.

Esqueça tudo sobre sistemas de arquivos em cluster - você quer algo que seja planejável. O problema é: você precisa planejar sua largura de banda dentro do sistema. Você não pode ter muito tráfego cruzado, a menos que você esteja disposto a colocar switches de 10GB em tudo. E mesmo assim, o tráfego cruzado pode matar você.

    

Answer 2

Cache Inteligente!

No seu caso, largura de banda de rede e i / o serão seus gargalos atuais.

Se você puder executar algo como zfs, poderá usar um SSD grande como um cache dinâmico entre drivers físicos e memória.

O Zfs gerenciará esse cache. Se você precisa de um melhor desempenho do SSD, basta juntá-los para obter maior desempenho.

Se você não tiver o zfs, pense em identificar arquivos 'quentes' no seu cluster e mova-os para SSD's locais ou um disco RAM dedicado. Dessa forma, você pode usar um lento san para arquivos do servidor e arquivos populares serão servidos de SSD / RAM rápido. Pense em um SSD como estender seu cache. Não é um jejum como ram, mas é muito mais rápido que o mais rápido que o disco. (menor energia também!).

Limite máximo do RAM físico nos servidores que você tem, isso melhorará o armazenamento em cache. Se você vai na rota do PC, eu vi algumas placas-mãe com capacidade superior a 128GB! : -).

Se você continuar crescendo, você logo superará o trânsito IP do seu data center. Se seus usuários estão geograficamente dispersos e depois pensam em colocar a infra-estrutura mais perto dos usuários. Ou seja, usuários europeus são direcionados para o data center na Europa.

Veja também como usar um servidor da Web otimizado para transmitir os arquivos, link vem à mente. Você ainda pode manter seus servidores de aplicativos existentes, mas direcionar os usuários para dedicarem servidores de streaming de vídeo.

O Memcache é interessante, dependendo de suas cargas de trabalho, isso também pode ajudar.

À medida que você cresce, os gargalos aparecerão na infraestrutura, verifique se você tem um bom desempenho / erro / registro de segurança. Você poderá planejar muito melhor se souber o que sua infraestrutura está fazendo sob o que os usuários carregam. Faça uma tendência desses dados durante um período de tempo e você poderá mostrar ao gerente por que precisa do novo hardware x para resolver o gargalo da garrafa.

Se você não tem as habilidades internas para fazer tudo isso, então dê uma olhada em uma rede de entrega de conteúdo, sua infra-estrutura está ajustada para fazer isso. Você paga apenas para usá-lo!

Depois de atualizar o servidor para múltiplos Ethernet de 10 Gbit, você encontrará outros gargalos, o barramento de sistema real da máquina: -).

    

Answer 3

Eu escolheria o segundo ZFS e uma unidade de cache SSD - Funciona bem. Também max ram para fora. O ZFS BTW baseado no OpenSolaris, a implementação do FreeBSD não é tão confiável.

    

Answer 4

Esta não vai ser a resposta que você quer me desculpar aqui. Eu sou muito especificamente um cara de Vídeo-sobre-IP, eu construí alguns dos maiores sistemas de VoD por aí e o que você está fazendo agora parece um desperdício enorme para mim, há tantos problemas que eu não sei por onde começar.

O que eu sugiro é que você se sente e saiba o que e onde seus clientes estão, que nível de serviço você deseja entregar para eles, qual é o conjunto de dados e volume de negócios do seu ativo, como você vai obter e entregue seu catálogo, como você lidará com os aspectos transacionais do que você está fazendo e só então revisite todo o seu projeto de implantação.

Como eu disse, desculpe ser negativo, mas qualquer outra coisa que eu poderia recomendar seria apenas um emplastro muito pequeno sobre uma questão muito mais ampla.