Por que você está tentando analisar XML manualmente usando o Regex quando o Powershell tem um analisador XML perfeitamente bom embutido?
Para remover comentários de um arquivo XML existente, analise o arquivo, localize todos os comentários com uma expressão XPath, remova-os e salve o arquivo de volta assim:
$xml = [xml](Get-Content C:\Path\File.config)
# You might need to tweak the XPath expression for your file,
# but this works for me on a random .NET app.config
$comments = $xml.SelectNodes('descendant::comment()')
$comments | %{ $_.ParentNode.RemoveChild($_) | out-null }
$xml.Save('C:\Path\File-output.config')
Mas parece que até isso é um exagero para o que você está tentando fazer.
I am trying to output the file without any comments. Then, I will play with this output without comments and create a csv using this data.
Nesse caso, por que não apenas brincar com o XML analisado diretamente e simplesmente ignorar os comentários. Depois de analisar o arquivo usando a primeira linha do exemplo acima, você tem um objeto XML perfeitamente bom com todos os dados que pode consultar, manipular e gerar como CSV. Você não precisa exportar o arquivo sem comentários primeiro.
Se você precisar de alguma ajuda para descobrir como trabalhar com dados XML no Powershell, existem literalmente milhares de artigos on-line que podem ajudar. O Google é seu amigo aqui.