Como afirmado na resposta referida por David, isso não é possível.
Você não pode excluí-lo porque ainda está aberto e, portanto, bloqueado.
O que você pode fazer é ter outro trabalho que o exclua depois de concluído. Isso pode ser feito criando uma tarefa agendada única a partir da tarefa em lote em execução. Como diz David, veja Como fazer com que o arquivo .BAT seja excluído após a conclusão? para obter mais detalhes.