Eu não uso o apt-get enquanto executo o NetBSD, mas o "pkgsrc" tem um papel similar ao apt-get.
Minha política local é muito simples. Se eu posso usar uma gema, eu uso uma gema. Se eu não puder, eu obtenho do pkgsrc. Algumas coisas que requerem código nativo (sqlite, alguns outros) simplesmente não são instaladas como gems fora da caixa.
O benefício major que eu vejo usando uma gem para a maioria das coisas é que posso ter mais de uma versão instalada de uma só vez. Por exemplo, eu tenho 3 versões diferentes do Rails instaladas, e os aplicativos podem ser migrados lentamente de um para outro.
Não tenho certeza se o apt-get permitiria que você fizesse isso, mas eu sei que o pkgsrc não faz isso. É um recurso que preciso e uso.