Supondo que nenhum outro campo na saída inclua / e nenhum diretório ou nome de arquivo contenha uma nova linha, você poderia fazer:
hdfs dfs -ls | grep '^d' | cut -d/ -f3
- O comando
grepseleciona linhas que começam comd, marcando diretórios - o
cutcommend escolhe o terceiro campo separado por/(sendo o primeiro a informação até o caminho do arquivo, o segundo o nome do diretóriodata)
Alternativa Awk:
hdfs dfs -ls | awk -F/ '/^d/{print $3}'