O VPS que você escolheu deve ser suficiente para começar, Nginx + Mongrel + MySQL. O max. 2 GB de RAM depende do tipo de virtualização em que seu servidor está, se você quiser jogar com segurança, você deve contar com apenas 512MB. (Quero dizer, talvez seja swap ...)
Eu usaria o Debian, mas se você não estiver familiarizado com Linux e servidores, você deve fazer um "dry practice" primeiro OU pegar um pacote de hospedagem RoR: link
Para Mongrel: Não sei se isso é atualmente um problema, mas talvez você também deva verificar isso: link