Houve problemas semelhantes com apps de terceiros que geram o explorador e não saem corretamente. Nunca encontrei uma solução, mas tenho uma solução alternativa do PS1 que mata as sessões do explorador, ignorando a área de trabalho, que é geralmente a maior.
Kill_Stray_Explorer.ps1
Get-Process explorer | Sort-Object -descending CPU | Select-Object -Skip 1 ID | ForEach-Object -Process {Stop-Process -Id $_.ID}
#
Agendador de tarefas para ser executado de vez em quando ou melhor ainda, cole este comando completo em um atalho para que possa ser clicado duas vezes.
C:\Windows\System32\WindowsPowerShell\v1.0\powershell.exe -nologo -noninteractive -WindowStyle Hidden -command "& {C:\Kill_Stray_Explorer.ps1}"