Sim, mas você precisa se referir ao diretório pelo nome, não usando a notação .
. Você pode usar um caminho relativo, ele só precisa terminar com algo diferente de .
ou ..
:
/tmp/test$ mv ../test ../test2
/tmp/test$ pwd
/tmp/test
/tmp/test$ pwd -P
/tmp/test2
Você pode usar um caminho absoluto:
/tmp/test$ cd -P .
/tmp/test2$ mv "$PWD" "${PWD%/*}/test3"
/tmp/test2$
Da mesma forma, rmdir .
nunca funcionará, mas rmdir "$PWD"
faz.