Os comandos de exportação definem as variáveis de ambiente no shell em execução ou na sessão ssh.
Se você quiser essas configurações toda vez, adicione seus comandos ao arquivo de inicialização do bash. Isto é .bashrc no seu diretório pessoal.
Algo para estar ciente é que se você ssh entrar e iniciar um processo será encerrado quando você sair, para mantê-lo em execução você pode executá-lo via tela ou nohup, isso irá detê-lo da sessão ssh para que ele não é morto quando a sessão termina. Idealmente, você deve iniciar este serviço via scripts systemctl ou init, então o sistema irá garantir a sua execução e lidar com os logs muito bem.