Você tem que usar
echo "This directory is called $(pwd)"
O que você está tentando fazer é chamado substituição de comando .
Isso costumava ser feito usando backticks ( ' ' ), mas a maneira recomendada atualmente é usar $() .
Você pode encontrar uma explicação detalhada nesta página da wiki.