Respondendo minha própria pergunta aqui, pois recebi a resposta via #fedora:
Acontece que a imagem que eu estava usando (um droplet no Oceano Digital) tem a seguinte configuração em /etc/rpm/macros.image-language-conf
:
%_install_langs C:en:en_US:en_US.UTF-8
Alterando isso para todos:
%_install_langs all
Em seguida, a reinstalação da glibc corrigiu para mim:
sudo dnf reinstall glibc-common