Você está procurando a opção cdable_vars . Para ativá-lo, execute shopt -s cdable_vars se você estiver usando bash ( setopt cdablevars no caso de zsh). Depois disso, o cd mydir simples funcionaria.
Observe que, se você tentar cd mydir de um diretório que contenha um arquivo ou diretório com o mesmo nome, o shell tentará usar o objeto de arquivo ou diretório no diretório atual, em vez de expandir a variável.