Acontece que eu não pude ver a madeira para as árvores, e um comentário de Michael Hampton me colocou no caminho certo.
Não teve nada a ver com o próprio Redis, mas um de meus aplicativos estava se comportando mal. Ele usa o Sidekiq para processamento em segundo plano, que usa o Redis para armazenar os trabalhos, mensagens de erro, rastreamentos etc. Eu comecei a receber erros estranhos em alguns de meus trabalhos, mas os ignorei porque tinha que resolver esse problema com o Redis primeiro. :)
Parece que o funcionário de plano de fundo que deve enviar uma notificação para Errbit sempre que uma exceção ocorre no meu aplicativo produziu uma a própria exceção, que gerou backtraces extremamente longos e mais e mais trabalhos ...
Parei o processamento em segundo plano por agora e agora o Redis consome uma quantidade normal de RAM.