Como dividir o uso de RAM 'Shmem' no Linux

Question

Eu estou depurando um problema com um jogo que está consumindo grandes quantidades de memória, essencialmente todos os 24 GB de RAM disponíveis e 8 GB de swap sumiram alguns minutos após o início. A memória não está associada ao processo em si (de acordo com o RSS em top ), mas parece ser categorizada em Shmem in /proc/meminfo . Isto é baseado na gravação dos valores conforme este processo está sendo executado, o que você pode ver no gráfico aqui (dados brutos aqui ).

Neste momento, estou tentando dividir Shmem em algo mais específico. Analisamos a postagem aqui que menciona as seguintes informações em Shmem :

1. memória tmpfs
2. Memória compartilhada SysV
3. memória compartilhada POSIX
4. mapeamentos anônimos compartilhados
5. páginas usadas para o GEM

Eu rapidamente criei este script:

import glob
import os
import re


import psutil


shmem_users = []
# tmpfs memory
disks = psutil.disk_partitions(all=True)
paths = [d.mountpoint for d in disks if d.fstype == 'tmpfs']
tmpfs_usage = sum(psutil.disk_usage(p).used for p in paths)
shmem_users.append({
    'name': 'tmpfs',
    'size': tmpfs_usage
})

# /dev/shm
dev_shm_size = 0
for p in glob.glob('/dev/shm/*'):
    try:
        sz = os.stat(p).st_size
        dev_shm_size += sz
    except:
        # e.g. permission errors
        pass
shmem_users.append({
    'name': '/dev/shm',
    'size': dev_shm_size
})

# TODO: SysV shared memory

# TODO: shared anonymous mappings

# TODO: GEM allocated pages

with open('/proc/meminfo') as f:
    m = re.search(r'Shmem: *(?P<kbs>\d+)', f.read())
    if not m:
        raise RuntimeError('Could not find Shmem value.')
    total_shmem = int(m.group('kbs')) * 1024

print('Total shmem: {}'.format(total_shmem))
total_shmem_accounted_for = sum(u['size'] for u in shmem_users)
print('Total shmem found: {}'.format(total_shmem_accounted_for))
print('Shmem unknown: {}'.format(total_shmem - total_shmem_accounted_for))

Eu tenho o processo atualmente SIGSTOP ped no meio da minha memória, e ele retorna:

Total shmem: 8450904064
Total shmem found: 681805504
Shmem unknown: 7769098560

Assim, 7 GB desaparecidos, dificilmente mais perto de entender o que está consumindo memória.

Eu tenho olhado o código do kernel por algumas horas, mas fiz muito pouco progresso em descobrir 2, 4 e 5. Eu posso fornecer notas, se necessário. Minha pergunta: Esses são os únicos outros valores que podem ser categorizados como "memória compartilhada" e como posso obter seus valores específicos?

Se for importante, meu sistema é:

• Ubuntu 16.04.2 LTS (com o KDE 5.5.5)
• 24 GB de RAM (+ 8 GB de swap configurado)
• Intel Core i3-6100
• SSD de 500 GB
• Sapphire Radeon RX470 4 GB (com driver AMDGPU-PRO, v17.10)

Answer 1

Para detalhar o uso de memória shmem (e mais), você tem o comando ipcs .

De homem ipcs

NAME ipcs - show information on IPC facilities

SYNOPSIS ipcs [options]

DESCRIPTION ipcs shows information on the inter-process communication facilities for which the calling process has read access. By default it shows information about all three resources: shared memory segments, message queues, and semaphore arrays.

Por exemplo, estou executando aqui em um servidor Apache:

$ipcs

------ Message Queues --------
key        msqid      owner      perms      used-bytes   messages    

------ Shared Memory Segments --------
key        shmid      owner      perms      bytes      nattch     status      
0xf4123d98 20643870   root       600        3294       12                      
0xfb123d9b 20676639   root       600        1242       12                      
0x0a123d9d 20709408   root       600        3294       12                      
0x91123da0 20742177   root       600        1242       12                      
0x75123da2 20774946   root       600        3294       12                      
0xbc123da5 20807715   root       600        1242       12                      
0x3d123da7 20840484   root       600        3294       12                      
0x84123daa 20873253   root       600        1242       12                      
0x47123dac 20906022   root       600        3294       12                      
0x0e123daf 20938791   root       600        1242       12                      
0xa6123db1 20971560   root       600        3294       12                      
0x2d123db4 21004329   root       600        1242       12                      
0x77123db6 21037098   root       600        3294       12                      
0x3e123db9 21069867   root       600        1242       12                      
0x80123dbb 21102636   root       600        3294       12                      
0x87123dbe 21135405   root       600        1242       12                      
0xa4123dc0 21168174   root       600        3294       12                      
0xab123dc3 21200943   root       600        1242       12                      
0xfd123dc5 21233712   root       600        3294       12                      
0x44123dc8 21266481   root       600        1242       12                      
0x96123dca 21299250   root       600        3294       12                      
0x1d123dcd 21332019   root       600        1242       12                      
0xa4123dcf 21364788   root       600        3294       12                      
0xab123dd2 21397557   root       600        1242       12                      
0x7a123dd4 21430326   root       600        3294       12                      
0x01123dd7 21463095   root       600        1242       12                      
0xd9123dd9 21495864   root       600        3294       12                      
0x20123ddc 21528633   root       600        1242       12                      
0x86123dde 21561402   root       600        3294       12                      
0x0d123de1 21594171   root       600        1242       12                      

------ Semaphore Arrays --------
key        semid      owner      perms      nsems     
0x00000000 425984     www-data   600        1         
0x00000000 1441793    www-data   600        1         
0x00000000 1474562    www-data   600        1