Acabamos de encontrar uma solução aqui, link
Ao abrir o diretório pai no 7zip, consegui remover o diretório usando shift + Delete na pasta. Parece que isso é capaz de remover pastas criadas recursivamente, que são muito longas para serem gerenciadas pelo explorador de arquivos, bem como nomes de caminhos ilegais.
Obrigado @frupfrup, googling 'removedor de longo caminho do windows' me trouxe para esse link de superusuário! Também obrigado @Kernal Sterns por outras idéias.