Sim, todo o seu código será armazenado em seu servidor.
Se alguém comprometer esses serviços ou roubar sua senha / chaves, eles terão acesso ao código (incluindo todas as alterações históricas feitas).
Se isso não for aceitável porque sua empresa não deseja que o código saia de seus escritórios, você precisará executar seu próprio servidor git internamente.