Bash é um shell, substituindo sh, que era comum antes.
O SSH é um protocolo para conexões seguras.
Do bash (um shell na sua máquina) você pode executar o programa ssh para se comunicar com segurança com um shell em outra máquina. Esse shell pode não ser bash, mas se bash estiver disponível, você pode inserir um shell bash (dentro do outro shell) digitando "bash" e então você pode usar export (que eu acho que faz parte do bash)