Mintty usa a GUI do Windows, não o X, por isso você não pode executar o mintty como um cliente X. Você pode rodar as janelas do mintty na mesma tela que os aplicativos X, então você não deve ter nenhum problema em usá-lo em vez do xterm em um sistema rodando o Cygwin.