Existem vários métodos para conseguir isso.
A opção mais simples seria criar um servidor proxy de cache, como o squid, para o qual os clientes poderiam ser configurados para se conectar. Depois que um cliente faz o download de um pacote, o restante dos clientes coletaria o pacote do cache do squid, em vez de fazer o download direto do repositório.
O site do YUM lista várias opções nas quais um cache é criado pela sincronização de arquivos de pacote de um espelho remoto, a maioria dos quais exigiria configuração substancial e espaço em disco para manter.