Aqui está um artigo decente sobre gerenciamento do uso de memória do MySQL . Parece que não há uma configuração única para definir uma quantidade máxima de uso de memória, mas ajustando o key_buffer , query_cache_size e max_connections (entre outros) no seu my.cnf , você pode reduzir o consumo de memória .