Adicioná-los a ~/.profile (aplicar ao seu usuário) ou um arquivo /etc/profile.d/*.sh (aplicar a todo o sistema) é o caminho correto. Para que a alteração seja aplicada, você precisa fazer logout do sistema e fazer login novamente, pois ~/.profile e /etc/profile.d/*.sh são carregados quando você faz login.
Para "recarregar" ~ / .profile em um terminal em execução, você pode usar source ~/.profile