Isso realmente depende do que você está tentando realizar.
-
A caixa de diálogo cria caixas de diálogo de texto com base em curses acessíveis a partir do console. Isso é útil para adicionar algum nível de interação aos scripts de shell. A caixa de diálogo é mais antiga que as colinas, mas ainda tem seus usos.
-
Zenity cria caixas de diálogo gráficas baseadas em GTK para uso em um ambiente de GUI em janelas. Isso é útil para adicionar alguns toques gráficos a algo que está sendo executado como um script, mas o usuário não o executou a partir de um console de texto e precisa de alguma interação. O Zenity é um player relativamente novo, mas como ele é distribuído com o Gnome, ele é amplamente disponível e estável.
Existem, é claro, outros casos de uso, mas as duas ferramentas são tão fundamentalmente diferentes que cabe a você decidir o que você está tentando realizar, então uma ou outra ferramenta será uma escolha óbvia.