CentOS 6 fazendo muito mais IO do que CentOS 5

Question

Estou testando um aplicativo em dois servidores idênticos, um é o Centos 5.8 e o outro é o Centos 6.2. Minha aplicação está rodando muito mais devagar (50% ou menos) na máquina Centos 6.2.

Ao tentar diagnosticar o problema, estou monitorando CPU, RAM e IO durante a execução do benchmark. Vejo que as leituras de disco são significativamente mais altas na caixa Centos 6.2, conforme medido com iostat.

Ambos os sistemas estão executando o XFS onde meu benchmark está sendo executado. Ambos são servidores HP com controladores RAID de armazenamento em cache de 512 MB com 8 x 300 GB SAS executando o RAID 10.

Aqui está a saída de xfs_info para cada:

centos5

meta-data=/dev/cciss/c0d0p5      isize=256    agcount=32, agsize=8034208 blks
         =                       sectsz=512   attr=0
data     =                       bsize=4096   blocks=257094144, imaxpct=25
         =                       sunit=32     swidth=128 blks, unwritten=1
naming   =version 2              bsize=4096 
log      =internal               bsize=4096   blocks=32768, version=1
         =                       sectsz=512   sunit=0 blks, lazy-count=0
realtime =none                   extsz=4096   blocks=0, rtextents=0

centos6

meta-data=/dev/sda5              isize=256    agcount=4, agsize=57873856 blks
         =                       sectsz=512   attr=2
data     =                       bsize=4096   blocks=231495424, imaxpct=25
         =                       sunit=0      swidth=0 blks
naming   =version 2              bsize=4096   ascii-ci=0
log      =internal               bsize=4096   blocks=113034, version=2
         =                       sectsz=512   sunit=0 blks, lazy-count=1
realtime =none                   extsz=4096   blocks=0, rtextents=0

    

Answer 1

Obrigado por atualizar a postagem com mais informações.

Você está executando em sistemas ProLiant, portanto, há uma certa quantidade de trabalho necessária para otimize seu controlador e a situação de E / S . Além disso, suas montagens XFS estão usando as opções padrão. Lembre-se de que você está usando um driver diferente entre esses sistemas operacionais. O servidor EL5 tem cciss , enquanto o sistema EL6 está usando o módulo hpsa . Existe uma diferença , no entanto, o problema que você tem é provavelmente relacionado às diferenças do sistema operacional. Então, aqui está o que eu verificaria:

• Altere suas montagens do XFS para incluir noatime e para desativar as barreiras de gravação com nobarrier . Aqui está uma string de montagem de amostra que eu uso com frequência .
• O comportamento de I / O elevator é diferente entre suas versões do Linux. Experimente o elevador deadline ou noop I / O no servidor do CentOS 6. Você pode alterar isso rapidamente com echo deadline > /sys/block/cciss\!c0d0/queue/scheduler ou anexando elevator=deadline na entrada de inicialização do grub.
• Certifique-se de que seu cache de leitura / gravação seja ideal para sua carga de trabalho. Eu costumo ir com 75% de gravação e 25% de leitura.
• Atualize o firmware nos componentes do servidor. Cada revisão do firmware do controlador Smart Array RAID tende a trazer nova funcionalidade. Isso parece um controlador HP Smart Array P410, portanto, certifique-se de estar em versão 5.14 .

Editar : Estou olhando para a saída xfs_info para os seus sistemas CentOS 5 e CentOS 6. Você formatou as partições XFS com parâmetros diferentes!

O sistema EL5 tem 32 grupos de alocação de XFS, enquanto o sistema EL6 tem somente 4. Grupos de alocação permitem o XFS para paralelizar operações simultâneas do sistema de arquivos.

Dada a quantidade de espaço disponível e as especificações de CPU do seu servidor, a configuração do EL6 existente é restringida pelo baixo agcount . Consulte as anotações da Red Hat sobre isso. Em um hardware como este, onde o armazenamento não está no intervalo de vários Terabytes , eu normalmente especifico um grupo de alocação por 4GB de espaço de partição . No mínimo, vá para 32 para corresponder ao seu servidor EL5 ... Tente reformatar a partição EL6 com esses parâmetros para ver se há uma diferença de desempenho ...

    

Answer 2

Quando você executa o iotop, o que está fazendo o disco lê na caixa 6.2?

Além disso, quais são suas opções de montagem no dispositivo que você está lendo? Você pode querer olhar no noatime e relatime