Primeiro, faça a si mesmo a importante pergunta: "Esse alerta vai me dizer alguma coisa útil?"
A carga de trabalho do seu servidor é tão limitada a E / S e um alerta de E / S poderia avisá-lo de um problema antes que um realmente aconteça? Existem outros indicadores melhores que você pode monitorar (diga o tempo de resposta em solicitações HTTP para o servidor?)
Se o alerta não for útil, desative-o.
Como você apontou corretamente, "alertas de ruído" reduzem a eficácia do sistema de monitoramento, então se este alerta é apenas ruído desligue-o e termine com isso.
Se o alerta é realmente útil em seu ambiente, mas não é útil durante determinados períodos de tempo, você precisa verificar seus sistemas de monitoramento e ver se é possível desativar alertas durante períodos específicos (a maioria pode - não tenho certeza sobre o Linode ou New Relic, mas sua documentação ou equipe de suporte técnico certamente pode ajudá-lo).
Se o seu sistema de monitoramento não puder suspender os alertas durante períodos específicos, você poderá realizar o mesmo com as regras procmail
(ou semelhante filtragem). Isso exige que você envie a mensagem para uma caixa de correio filtrada, mas pode encaminhá-la para pagers, telefones celulares etc., conforme necessário.
(Se você usar uma solução de filtragem de e-mail como essa, certifique-se de documentar para que o próximo administrador saiba por que não recebe alertas durante essa janela! ser um problema real, e perder o alerta pode ser uma Coisa Ruim.)