Você pode alterar a exibição da pasta para Detalhes ou Lista, o que não mostra miniaturas personalizadas para cada arquivo. Mas se você não conseguir entrar na pasta para definir a visualização sem o recurso Explorer, basta ir até o pai da pasta, clicar com o botão direito na pasta e ir para Properties
, acessar a guia Customize
e alterar Optimize this folder for
para "Itens gerais" ou "Documentos". Isso deve apresentar automaticamente o conteúdo da pasta (quando você entra nela) na exibição Detalhes ou Lista.