Sua variável $path está fora do escopo de onde Remove-Item é chamado.
Veja este exemplo:
function script{
$path = "hello";
echo $path;
}
echo $path;
Quando echo $path é chamado na última linha, nada é gerado porque não foi colocado nenhum valor em $path . No entanto, se eu chamar script , então hello será enviado, mas assim que a função script for executada, a variável $path dentro da função não estará mais acessível.
Para corrigir, defina sua variável $path , em que Remove-Item tem acesso a ela, por exemplo, antes da função de script.
Para ver mais sobre o escopo no PowerShell, aqui está a documentação completa da Microsoft.