Eu percebi isso. Este é um conversor de porta serial dupla (FT2232H), portanto, no Gerenciador de Dispositivos, ele possui uma entrada por porta em Portas (COM & LPT), mas também um Dispositivo Composto USB sob o controlador Universal Serial Bus. Eu estava desinstalando as duas portas, mas não o dispositivo USB.
Isso é mais fácil de encontrar na exibição "Dispositivos por conexão" do Gerenciador de dispositivos:
Se eu desinstalar o USB Composite Device, ele limpará todos os itens de registro completamente e permitirá uma reinstalação limpa.