Defina a variável de origem como esta $source='\server1\folder' e exclua o asterisco ( * ) de lá, como no exemplo fornecido. Você não precisa escapar dos caracteres de barra invertida ( \ ) com uma barra invertida adicional, então omita as barras invertidas adicionais nos caminhos UNC também.
Considere usar
$source='\server1\folder'
$destination='\PC1\c$\temp\folder'
Copy-Item -Recurse -Filter *.* -path $source -destination $destination -Force
Nota: Use -Filter para o padrão de sequência curinga, etc.