Você está correto sobre .bashrc . Na inicialização inicial, o SO não conhece nada de variáveis de ambiente, exceto o que lê em .profilerc , .bashrc , .inputrc , etc. E qualquer coisa export ed só dura para a sessão atual, a menos que seja colocada em um desses arquivos .
Se valores forem adicionados a um desses arquivos e você quiser que eles entrem em vigor imediatamente, execute:
source .bashrc
ou:
. /etc/bashrc
etc ...
Editar (adicionando dos comentários do @ThomasAndrews):
No entanto, isso altera apenas as variáveis env para a sessão atual (janela de terminal) na qual você a executa. A chave para o entendimento é perceber que as variáveis de ambiente são herdadas dos processos pai para o processo filho no momento em que o processo filho é iniciado.