Hoje em dia, sudo muda seu usuário para root, e no Debian o padrão é reescrever seu $HOME , então ele se torna /root :
$ sudo sh -c 'echo $HOME'
/root
Portanto, espera-se que $HOME/.gemrc sob a raiz esteja em /root/.gemrc , e é provável que você queira que ele pegue um arquivo do diretório do usuário comum.
A solução de força contundente é fazer algo como
sudo ln -s /home/your_user_name/.gemrc /root/.gemrc
Uma solução pouco mais complexa é desabilitar always_set_home em /etc/sudoers .
Outra opção é usar uma maneira complicada de chamar o sudo como
sudo sh -c 'export HOME=/home/your_user_name; bundle install'