Eu enfrentei o mesmo problema depois de migrar meu Mac também (ambos MacOS High Sierra). Depois de correr
sudo mv /usr/local/include /usr/local/include_old
e depois
rvm install 2.5.0 --with-openssl-dir=/usr/local/opt/openssl/bin/openssl
as coisas começaram a funcionar normalmente.