$OPENBLAS_NUM_THREADS
está sendo avaliado localmente por bash
antes de ser enviado para a sua máquina remota.
Você precisa fugir do $
:
ssh worker-2 "export OPENBLAS_NUM_THREADS=1; echo \$OPENBLAS_NUM_THREADS"
ou use aspas simples, que inibem a avaliação da variável bash:
ssh worker-2 'export OPENBLAS_NUM_THREADS=1; echo $OPENBLAS_NUM_THREADS'