Eu não recomendaria tentar "remover". O BITS é necessário para o serviço de atualizações do Windows ser executado. Seria uma má ideia não instalar atualizações, especialmente as atualizações de segurança. Mas provavelmente não faria mal desabilitar o serviço e habilitá-lo para executar as atualizações do Windows uma vez por mês. Reabilita-se .... hmmmmm, talvez você deva desativar o BITS e o serviço Atualizações. Atualizações podem ser o que está reativando o BITS.
Edite: esteja ciente de que existem outras coisas além das Atualizações que usam o BITS para que você possa ter problemas imprevistos adicionais no futuro. Por exemplo, acho que certas instalações (recursos do Windows, talvez instaladores MSI) podem precisar do BITS.