$OPENBLAS_NUM_THREADS está sendo avaliado localmente por bash antes de ser enviado para a sua máquina remota.
Você precisa fugir do $ :
ssh worker-2 "export OPENBLAS_NUM_THREADS=1; echo \$OPENBLAS_NUM_THREADS"
ou use aspas simples, que inibem a avaliação da variável bash:
ssh worker-2 'export OPENBLAS_NUM_THREADS=1; echo $OPENBLAS_NUM_THREADS'