Ele diz o que está errado na mensagem de erro. Está sem memória.
Pode ser um aplicativo de 32 bits com restrição de memória de 2 a 3 GB que os aplicativos de 32 bits possuem. Você pode executar o arquivo $ (qual mysqld) e ver se a saída menciona x86-64 ou 32-bit / i386.
Ou pode haver um limite superior no servidor. Verifique a configuração em /etc/mysql/my.cnf
e observe os limites de memória superiores.