A "Palavra-chave" é "Fonte de dados", por isso você precisa definir $ConnString."Data Source" = 'myserver'
Editar: Adicionando explicação
Etapa 1: O SqlConnectionStringBuilder deriva de DbConnectionStringBuilder, que implementa as interfaces IDictionary, ICollection, IEnumerable e ICustomTypeDescriptor.
Etapa 2: SqlConnectionStringBuilder :: InitialCatalog internamente apenas define SqlConnectionStringBuilder :: Item ['Initial Catalog'].
Etapa 3: quando combinamos as declarações anteriores, obtemos o seguinte resultado:
PS> $sc = New-Object System.Data.SqlClient.SqlConnectionStringBuilder
PS> $sc.InitialCatalog.Equals($sc.Item('Initial Catalog'))
True
PS> $sc.InitialCatalog.Equals($sc.Item('Database'))
True
# And just for completeness
PS> $sc.InitialCatalog.Equals($sc.Item('Server'))
False
Então, quando você executa isso:
$Conn.InitialCatalog = "mydb'
É traduzido para:
$Conn.Item['Initial Catalog'] = "mydb"
Para ver as propriedades disponíveis para uso dessa maneira, execute este comando:
$Conn.Keys