Você tem que checar em zabbix_server.conf os valores de
CacheSize = 3G
HistoryCacheSize = 1G
HistoryIndexCacheSize = 8 M
e etc.
Provavelmente você não tem memória suficiente para executar o zabbix, ajuste esses parâmetros de acordo com o tamanho da sua memória.