Comando which rails executa o programa which que apenas procura por um arquivo executável chamado rails on PATH variável entradas (consulte echo $PATH ou env | grep PATH ). O executável rails não é executado neste caso.
O comando rails --version executa o arquivo executável /usr/bin/rails e falha devido a falta de bibliotecas.