O instalador do Windows Git tem algumas opções de configuração; no entanto, não me lembro se o bash shell é uma das partes opcionais. Dito isto, não há razão para usar o shell bash para o git. Você pode executar comandos git do cmd e do PowerShell.
Há um bom componente adicional para aprimorar o PowerShell com a integração do git. Eu faço toda a minha interação com o git do PowerShell. Eu nunca abri o bash shell, assumindo que ele foi instalado com git.