Você precisa Set-ExecutionPolicy para que a conta que executa a tarefa agendada tenha permissão para executar scripts do PowerShell:
Set-ExecutionPolicy -Scope LocalMachine Unrestricted
Conforme o arquivo de ajuda de Set-ExecutionPolicy, um escopo de LocalMachine define a política para todos os usuários desse computador. Ao contrário de se você apenas Set-ExecutionPolicy Unrestricted
de sua própria conta de usuário, ela apenas define essa política para sua própria conta de usuário. Além disso, há também políticas separadas para as versões de 32 bits e 64 bits do PowerShell.
E se Set-ExecutionPolicy -Scope LocalMachine Unrestricted
for um compromisso de segurança muito grande para você, você poderá configurá-lo apenas para esse usuário, fazendo login como esse usuário e fazendo isso, ou executando um processo no contexto de segurança desse usuário e definindo a política para esse usuário.
Ah, e bem, isso provavelmente não precisa ser dito, mas não podemos saber se o usuário que você atribuiu a essa tarefa agendada tem as permissões necessárias para excluir itens daqueles caminhos UNC .