Eu tive esse conjunto exato de sintomas, exceto que eu estava vendo a caixa de diálogo "Como você deseja abrir este arquivo ?, aparecendo todas as manhãs quando eu me sentei no computador, em vez de aleatoriamente.
Eu finalmente segui para um programa de desfragmentação chamado MyDefrag (Nota: o site parece estar inativo no momento). Quando você instala o MyDefrag, ele opcionalmente configura uma tarefa agendada para ser executada às 5:01 AM todos os dias para desfragmentar seu disco rígido, e eu escolhi essa opção. Mas a tarefa agendada que MyDefrag cria está mal configurada de alguma forma que eu ainda não descobri, porque quando você executá-lo manualmente, ele aparece o "Como você deseja abrir este arquivo?" diálogo. Eventualmente, desativei a tarefa agendada MyDefrag e só executei o MyDefrag manualmente, e as caixas de diálogo "abrir este arquivo" desapareceram.
No seu caso, se você ainda não desistiu e reformatou o computador, sugerimos que você anote a hora exata do dia em que verá o arquivo "Como você deseja abrir este arquivo?" diálogo. Então, depois de obter tempo suficiente para estabelecer um padrão (por exemplo, ele aparece a cada 2 horas, a partir do momento em que o computador é inicializado), carregue o Agendador de Tarefas e comece a navegar pelas tarefas ativas, procurando uma que se encaixa nesse padrão. Depois de encontrá-lo, desative-o (não o exclua ainda, caso ainda não tenha encontrado o caminho certo) e veja se o problema desaparece.
No meu caso, levei muito tempo para rastrear o padrão, porque a caixa de diálogo estava apenas aparecendo enquanto eu estava dormindo. Eu finalmente encontrei-o executando ProcMon.exe ( Process Monitor , uma parte muito útil do Windows SysInternals) em noite e olhando através de seus dados pela manhã. (Eu tive que reduzi-lo primeiro, porque 8 horas de monitoramento do Process Monitor produziram cerca de 16 GB de dados, e cada operação de filtro levou 10 minutos para ser concluída.) Eu filtrava pelo programa OpenWith.exe e descobri que era correndo às 5:01. Isso me deu a pista de procurar no Agendador de Tarefas as tarefas executadas às 5:01, que é como encontrei a tarefa automática mal configurada do MyDefrag.
Se você ainda não limpou e reinstalou o sistema operacional e ainda está lidando com esse pop-up aleatório, espero que isso o ajude a rastreá-lo. Se você já tiver limpado e reinstalado, esperamos que outra pessoa que tenha pesquisado no Google esse problema possa usar essas informações para rastrear o próprio problema.