Você deve instalar e usar o rxvt em vez do terminal do Windows (cmd.exe). O rxvt pode ser instalado selecionando-o em Shells no instalador do Cygwin e ele cria automaticamente dois atalhos para a ramificação Programs / Cygwin do Menu Iniciar (pelo menos se você inicialmente permitisse a criação de atalhos), um para X e outro sem. Então, você não precisa instalar o X para usar o rxvt.
No rxvt você pode usar o botão do meio como você usou imediatamente, sem configurações adicionais. Se você quiser configurar algum aspecto do rxvt, você deve se referir a
/usr/share/doc/Cygwin/rxvt-<version>.README
que lista diferentes opções de configuração possíveis e algumas amostras.