Eu sei que esta é uma questão antiga, mas recentemente alguns novos usuários de rubi atingiram esse comportamento "aparentemente impossível". Estou respondendo para ajudar outras pessoas que conseguiram isso.
É porque você está usando o ruby - que está aplicando configurações locais de pacotes configuráveis e gem para cada diretório. Sua variável PATH está mudando simplesmente devido a um comando cd - porque ruby está manipulando a mudança cwd e aplicando as configurações corretas para aquele diretório de destino (ou configurações globais se não houver configurações em cwd) para o ENV .
Um cenário muito comum é que um usuário ruby executará o comando bundle, que está claramente no PATH (tente qual pacote), altere os diretórios e tenha o comando bundle como desconhecido (não mais no PATH porque o PATH mudou) como um efeito colateral do comando cd).
geralmente isso pode ser solucionado com a instalação gem no diretório problemático.