Depois de pesquisar por um bom tempo qual é o problema (mais de 60 GB de largura de banda em alguns dias), descobri que meu servidor era uma fonte de ataque DDOS.
Primeiro de tudo, eu tentei instalar o Oracle DB nele, então eu criei o usuário oracle. Hackers de alguma forma conseguiram quebrar o passe para aquele usuário (acho que eu deveria tornar mais difícil :(), eles criaram um diretório oculto sob o Oracle home, com um crontab lá, que manualmente executava alguns deamons que inundavam o servidor de destino.
Além disso, os hackers criaram 2 novos usuários no meu servidor: avahi e colord. O que devo fazer sobre eles? Eu googled e parece que o software com o mesmo nome não é perigoso, mas eu apaguei esses usuários (e oracle também).
Futheremore eu deletei o oracle inteiro para casa, com tudo nele.
Acho que preciso proteger mais o meu servidor, pois ele pode ser atacado novamente. Obrigado a todos pela ajuda!