Você pode usar o operador NOT
na barra de pesquisa de pastas (o operador faz distinção entre maiúsculas e minúsculas).
Observe que fiz isso no meu diretório Pictures para ilustrar o filtro. Se você fizer isso em um diretório de nível mais alto você obtém todos os arquivos que não são JPEGs, então pode haver alguns resultados.
Existem vários outros operadores de pesquisa explicados em Dicas avançadas para pesquisa em Windows .