A quantidade de nós NUMA é sempre igual a soquetes?

11

Eu usei lscpu para verificar a configuração de dois servidores:

[root@localhost ~]# lscpu
Architecture:          x86_64
......
Core(s) per socket:    1
Socket(s):             1
NUMA node(s):          1
Vendor ID:             GenuineIntel
CPU family:            6
Model:                 26

O outro:

[root@localhost Packages]# lscpu
Architecture:          x86_64
.....
Socket(s):             2
NUMA node(s):          2
Vendor ID:             GenuineIntel
CPU family:            6
Model:                 45

Então, estou querendo saber se a quantidade de nós NUMA sempre é igual a soquetes de fato. Existe algum exemplo em que eles não são iguais?

    
por Nan Xiao 19.05.2015 / 08:03

2 respostas

17

Por que você está se perguntando sobre o número de nós NUMA? A parte importante é a topologia NUMA, que diz como esses "nós" são conectados.

Verifiquei alguns sistemas, incluindo o sistema de 8 soquetes (10-core CPUs), que consiste em 4 blades interconectados de dois soquetes (Hitachi Compute Node 2000). Também aqui o número de nós NUMA é igual ao número de soquetes da CPU (8). Isso depende da arquitetura da CPU, principalmente do design do barramento de memória.

O NUMA (acesso de memória não uniforme) inteiro define como cada CPU lógica pode acessar cada parte da memória. Quando você tem 2 sistemas de soquete, cada CPU (soquete) tem sua própria memória, que pode acessar diretamente. Mas também deve poder acessar a memória no outro soquete - e isso, é claro, requer mais ciclos de CPU do que acessar a memória local. Nós NUMA especificam qual parte da memória do sistema é local para qual CPU. Você pode ter mais camadas de topologia, por exemplo, no caso do sistema HP Superdome (que usa CPUs Intel Itanium2), você tem memória de soquete de CPU local, memória em soquete diferente dentro da mesma célula e memória em outras células (que têm o maior latência).

Você pode configurar o NUMA em seu sistema para se comportar de modo a proporcionar o melhor desempenho possível para sua carga de trabalho. Você pode, por exemplo, permitir que todas as CPUs acessem toda a memória ou acessar apenas a memória local, que então altera como o programador do Linux distribuirá os processos entre as CPUs lógicas disponíveis. Se você tem muitos processos que requerem pouca memória, usar apenas memória local pode ser benéfico, mas se você tiver processos grandes (banco de dados Oracle com sua memória compartilhada), usar toda a memória entre todos os processadores poderá ser melhor.

Você pode usar comandos como numastat ou numactl --hardware para verificar o status NUMA em seu sistema. Aqui estão as informações dessa máquina de 8 soquetes:

hana2:~ # lscpu
Architecture:          x86_64
CPU(s):                160
Thread(s) per core:    2
Core(s) per socket:    10
CPU socket(s):         8
NUMA node(s):          8
NUMA node0 CPU(s):     0-19
NUMA node1 CPU(s):     20-39
NUMA node2 CPU(s):     40-59
NUMA node3 CPU(s):     60-79
NUMA node4 CPU(s):     80-99
NUMA node5 CPU(s):     100-119
NUMA node6 CPU(s):     120-139
NUMA node7 CPU(s):     140-159

hana2:~ # numactl --hardware
available: 8 nodes (0-7)
node 0 cpus: 0 1 2 3 4 5 6 7 8 9 10 11 12 13 14 15 16 17 18 19
node 0 size: 130961 MB
node 0 free: 66647 MB
node 1 cpus: 20 21 22 23 24 25 26 27 28 29 30 31 32 33 34 35 36 37 38 39
node 1 size: 131072 MB
node 1 free: 38705 MB
node 2 cpus: 40 41 42 43 44 45 46 47 48 49 50 51 52 53 54 55 56 57 58 59
node 2 size: 131072 MB
node 2 free: 71668 MB
node 3 cpus: 60 61 62 63 64 65 66 67 68 69 70 71 72 73 74 75 76 77 78 79
node 3 size: 131072 MB
node 3 free: 47432 MB
node 4 cpus: 80 81 82 83 84 85 86 87 88 89 90 91 92 93 94 95 96 97 98 99
node 4 size: 131072 MB
node 4 free: 68458 MB
node 5 cpus: 100 101 102 103 104 105 106 107 108 109 110 111 112 113 114 115 116 117 118 119
node 5 size: 131072 MB
node 5 free: 62218 MB
node 6 cpus: 120 121 122 123 124 125 126 127 128 129 130 131 132 133 134 135 136 137 138 139
node 6 size: 131072 MB
node 6 free: 68071 MB
node 7 cpus: 140 141 142 143 144 145 146 147 148 149 150 151 152 153 154 155 156 157 158 159
node 7 size: 131008 MB
node 7 free: 47306 MB
node distances:
node   0   1   2   3   4   5   6   7
  0:  10  21  21  21  21  21  21  21
  1:  21  10  21  21  21  21  21  21
  2:  21  21  10  21  21  21  21  21
  3:  21  21  21  10  21  21  21  21
  4:  21  21  21  21  10  21  21  21
  5:  21  21  21  21  21  10  21  21
  6:  21  21  21  21  21  21  10  21
  7:  21  21  21  21  21  21  21  10

Lá você pode ver a quantidade de memória presente em cada nó NUMA (soquete da CPU) e quanto dela é usado e livre.

A última seção mostra a topologia NUMA - mostra as "distâncias" entre nós individuais em termos de latências de acesso à memória (os números são relativos apenas, eles não representam tempo em ms nem nada). Aqui você pode ver a latência para a memória local (nó 0 acessando memória em 0, nó 1 em 1, ...) é 10 enquanto latência remota (nó acessando memória em outro nó) é 21. Embora este sistema seja composto por 4 lâminas, a latência é a mesma para soquete diferente na mesma lâmina ou outra lâmina.

Um documento interessante sobre o NUMA também está no portal RedHat .

    
por 19.05.2015 / 10:41
2

Não. O número de nós NUMA nem sempre é igual ao número de soquetes. Por exemplo, um processador AMD Threadripper 1950X possui 1 nós de soquete e 2 NUMA, enquanto um sistema dual Intel Xeon E5310 pode mostrar 2 soquetes e 1 nó NUMA.

    
por 08.11.2017 / 04:26