Após vários testes de benchmarking com o sysbench, chego a esta conclusão:
Para sobreviver (performance-wise) uma situação em que
- um processo de cópia malvado inunda páginas sujas
- e o cache de gravação de hardware está presente (possivelmente também sem isso)
- e leituras síncronas ou gravações por segundo (IOPS) são críticas
apenas descarregue todos os elevadores, filas e caches de páginas sujas. O local correto para páginas sujas está na RAM desse cache de gravação de hardware.
Ajuste o dirty_ratio (ou new dirty_bytes) o mais baixo possível, mas fique de olho no throughput sequencial. No meu caso particular, 15 MB foram ótimos ( echo 15000000 > dirty_bytes ).
Isso é mais um truque do que uma solução, porque gigabytes de RAM agora são usados para cache de leitura apenas em vez de cache sujo. Para que o cache sujo funcione bem nessa situação, o flusher de plano de fundo do kernel do Linux precisaria calcular a média em que velocidade o dispositivo subjacente aceita solicitações e ajustar o fluxo de fundo de acordo. Não é fácil.
Especificações e benchmarks para comparação:
Testado enquanto dd 'zeros em disco, sysbench mostrou enorme sucesso , aumentando 10 threads em fsync escreve em 16 kB de 33 a 700 IOPS (limite ocioso: 1500 IOPS) e thread único de 8 a 400 IOPS.
Sem carga, as IOPS não foram afetadas (~ 1500) e o rendimento foi ligeiramente reduzido (de 251 MB / s para 216 MB / s).
dd call:
dd if=/dev/zero of=dumpfile bs=1024 count=20485672
para o sysbench, o test_file.0 foi preparado para não ser utilizado com:
dd if=/dev/zero of=test_file.0 bs=1024 count=10485672
chamada do sysbench para 10 threads:
sysbench --test=fileio --file-num=1 --num-threads=10 --file-total-size=10G --file-fsync-all=on --file-test-mode=rndwr --max-time=30 --file-block-size=16384 --max-requests=0 run
Chamada do sysbench para um thread:
sysbench --test=fileio --file-num=1 --num-threads=1 --file-total-size=10G --file-fsync-all=on --file-test-mode=rndwr --max-time=30 --file-block-size=16384 --max-requests=0 run
Tamanhos menores de blocos mostraram números ainda mais drásticos.
- file-block-size = 4096 com 1 GB de dirty_bytes:
sysbench 0.4.12: multi-threaded system evaluation benchmark
Running the test with following options:
Number of threads: 1
Extra file open flags: 0
1 files, 10Gb each
10Gb total file size
Block size 4Kb
Number of random requests for random IO: 0
Read/Write ratio for combined random IO test: 1.50
Calling fsync() after each write operation.
Using synchronous I/O mode
Doing random write test
Threads started!
Time limit exceeded, exiting...
Done.
Operations performed: 0 Read, 30 Write, 30 Other = 60 Total
Read 0b Written 120Kb Total transferred 120Kb (3.939Kb/sec)
0.98 Requests/sec executed
Test execution summary:
total time: 30.4642s
total number of events: 30
total time taken by event execution: 30.4639
per-request statistics:
min: 94.36ms
avg: 1015.46ms
max: 1591.95ms
approx. 95 percentile: 1591.30ms
Threads fairness:
events (avg/stddev): 30.0000/0.00
execution time (avg/stddev): 30.4639/0.00
- file-block-size = 4096 com 15 MB de dirty_bytes:
sysbench 0.4.12: multi-threaded system evaluation benchmark
Running the test with following options:
Number of threads: 1
Extra file open flags: 0
1 files, 10Gb each
10Gb total file size
Block size 4Kb
Number of random requests for random IO: 0
Read/Write ratio for combined random IO test: 1.50
Calling fsync() after each write operation.
Using synchronous I/O mode
Doing random write test
Threads started!
Time limit exceeded, exiting...
Done.
Operations performed: 0 Read, 13524 Write, 13524 Other = 27048 Total
Read 0b Written 52.828Mb Total transferred 52.828Mb (1.7608Mb/sec)
450.75 Requests/sec executed
Test execution summary:
total time: 30.0032s
total number of events: 13524
total time taken by event execution: 29.9921
per-request statistics:
min: 0.10ms
avg: 2.22ms
max: 145.75ms
approx. 95 percentile: 12.35ms
Threads fairness:
events (avg/stddev): 13524.0000/0.00
execution time (avg/stddev): 29.9921/0.00
- file-block-size = 4096 com 15 MB de dirty_bytes no sistema inativo:
sysbench 0.4.12: referência de avaliação do sistema multiencadeado
Running the test with following options:
Number of threads: 1
Extra file open flags: 0
1 files, 10Gb each
10Gb total file size
Block size 4Kb
Number of random requests for random IO: 0
Read/Write ratio for combined random IO test: 1.50
Calling fsync() after each write operation.
Using synchronous I/O mode
Doing random write test
Threads started!
Time limit exceeded, exiting...
Done.
Operations performed: 0 Read, 43801 Write, 43801 Other = 87602 Total
Read 0b Written 171.1Mb Total transferred 171.1Mb (5.7032Mb/sec)
1460.02 Requests/sec executed
Test execution summary:
total time: 30.0004s
total number of events: 43801
total time taken by event execution: 29.9662
per-request statistics:
min: 0.10ms
avg: 0.68ms
max: 275.50ms
approx. 95 percentile: 3.28ms
Threads fairness:
events (avg/stddev): 43801.0000/0.00
execution time (avg/stddev): 29.9662/0.00
Sistema de teste:
- Adaptec 5405Z (esse cache de gravação de 512 MB com proteção)
- Intel Xeon L5520
- 6 GiB RAM @ 1066 MHz
- Motherboard Supermicro X8DTN (chipset 5520)
- 12 discos Seagate Barracuda 1 TB
- 10 no RAID 10 do software Linux
- Kernel 2.6.32
- Sistema de arquivos xfs
- Debian instável
Em resumo, agora estou certo de que essa configuração terá um bom desempenho em situações ociosas, de alta carga e até de carga total para tráfego de banco de dados que, de outra forma, teria sido afetado pelo tráfego sequencial. A taxa de transferência sequencial é superior a dois links gigabit que podem ser entregues de qualquer maneira, portanto, não há problema em reduzi-la um pouco.