mysql usando toda a memória e mudando para swap

Question

Temos um servidor Linux dedicado para nossos bancos de dados do mysql. Temos tido problemas de velocidade terríveis com quaisquer scripts que corremos, parece piorar com o tempo, à medida que executamos mais scripts. Eu posso rodar esses scripts na minha máquina local e eles rodarão duas vezes mais rápido.

Agora, parece-me que temos um problema de memória. À medida que continuamos a executar scripts, o uso de memória fica mais alto (isso é obviamente normal), mas quando eles terminam, eles não liberam a memória. Nota * Esta não é memória cache.

Não consigo postar nenhuma imagem, pois tenho 0 pontos de repetição, mas a execução do htop mostra que atualmente estamos usando 28245 / 32150MB, novamente - isso não é memória armazenada em cache e nenhum script está sendo executado no momento.

Qualquer ajuda será muito apreciada.

O my.cnf do servidor:

#
# The MySQL database server configuration file.
#
# You can copy this to one of:
# - "/etc/mysql/my.cnf" to set global options,
# - "~/.my.cnf" to set user-specific options.
# 
# One can use all long options that the program supports.
# Run program with --help to get a list of available options and with
# --print-defaults to see which it would actually understand and use.
#
# For explanations see
# http://dev.mysql.com/doc/mysql/en/server-system-variables.html

# This will be passed to all mysql clients
# It has been reported that passwords should be enclosed with ticks/quotes
# escpecially if they contain "#" chars...
# Remember to edit /etc/mysql/debian.cnf when changing the socket location.
[client]
port        = 3306
socket      = /var/run/mysqld/mysqld.sock

# Here is entries for some specific programs
# The following values assume you have at least 32M ram

# This was formally known as [safe_mysqld]. Both versions are currently parsed.
[mysqld_safe]
socket      = /var/run/mysqld/mysqld.sock
nice        = 0

[mysqld]
#
# * Basic Settings
#
user        = mysql
pid-file    = /var/run/mysqld/mysqld.pid
socket      = /var/run/mysqld/mysqld.sock
port        = 3306
basedir     = /usr
datadir     = /var/lib/mysql
tmpdir      = /tmp
lc-messages-dir = /usr/share/mysql
#skip-external-locking
#
# Instead of skip-networking the default is now to listen only on
# localhost which is more compatible and is not less secure.
#bind-address       = 41.76.208.223
#bind-address   = 127.0.0.1
#
# * Fine Tuning
#
key_buffer      = 384M
max_allowed_packet  = 16M
thread_stack        = 192K
thread_cache_size       = 384
skip-name-resolve
# This replaces the startup script and checks MyISAM tables if needed
# the first time they are touched
myisam-recover         = BACKUP
#max_connections        = 100
table_cache            = 1500 
table_definition_cache  = 1500
#thread_concurrency     = 10
#
# * Query Cache Configuration
#
query_cache_limit   = 4M
query_cache_size        = 128M
join_buffer_size    = 128M
max_heap_table_size = 128M
tmp_table_size      = 128M
read_buffer_size    = 32M 
innodb_buffer_pool_size = 25G
#
# * Logging and Replication
#
# Both location gets rotated by the cronjob.
# Be aware that this log type is a performance killer.
# As of 5.1 you can enable the log at runtime!
#general_log_file        = /var/log/mysql/mysql.log
#general_log             = 1
#
# Error log - should be very few entries.
#
# Here you can see queries with especially long duration
#log_slow_queries   = /var/log/mysql/mysql-slow.log
#long_query_time = 2
#log-queries-not-using-indexes
#
# The following can be used as easy to replay backup logs or for replication.
# note: if you are setting up a replication slave, see README.Debian about
#       other settings you may need to change.
#server-id          = 2
log_bin             = /var/log/mysql/mysql-bin.log
log_bin_index           = /var/log/mysql/mysql-bin.log.index
relay_log           = /var/log/mysql/mysql-relay-bin
relay_log_index         = /var/log/mysql/mysql-relay-bin.index
expire_logs_days        = 10
max_binlog_size         = 100M
log_slave_updates       = 1
auto-increment-increment    = 2
auto-increment-offset       = 1
replicate-ignore-db             = mysql
replicate-ignore-db             = information_schema
replicate-ignore-db             = performance_schema
#binlog_do_db           = include_database_name
#binlog_ignore_db       = include_database_name
#
# * InnoDB
#
# InnoDB is enabled by default with a 10MB datafile in /var/lib/mysql/.
# Read the manual for more InnoDB related options. There are many!
#
# * Security Features
#
# Read the manual, too, if you want chroot!
# chroot = /var/lib/mysql/
#
# For generating SSL certificates I recommend the OpenSSL GUI "tinyca".
#
# ssl-ca=/etc/mysql/cacert.pem
# ssl-cert=/etc/mysql/server-cert.pem
# ssl-key=/etc/mysql/server-key.pem



[mysqldump]
quick
quote-names
max_allowed_packet  = 16M

[mysql]
#no-auto-rehash # faster start of mysql but no tab completition

[isamchk]
key_buffer      = 16M

#
# * IMPORTANT: Additional settings that can override those from this file!
#   The files must end with '.cnf', otherwise they'll be ignored.
#
!includedir /etc/mysql/conf.d/

    

Answer 1

Olhando a configuração aqui, o mysql irá usar quase toda a memória da máquina - se é um servidor MySQL dedicado rodando apenas o InnoDB, é exatamente assim que deve ser configurado.

but when these end they do not release the memory

Eles não irão liberar memória do buffer pool innodb - é assim que o sistema deve funcionar.

Se o seu sistema está usando swap, então o mysql está vazando em algum lugar (você esqueceu de nos dizer qual versão você está usando). Muito mais provável é que alguma outra coisa esteja usando quantidades significativas de memória e não liberando-a.

    

Answer 2

É "innodb_buffer_pool_size = 25G"?

Usando caches internos do banco de dados, o banco de dados funciona mais rápido, mas ao custo de retardar todos os outros serviços, pois o sistema não pode recuperar essa memória, não pode usá-la para o cache do sistema de arquivos, não pode fornecê-la aos processos. Tente diminuir o apetite do MySQL.