Bob, há três partes para sua pergunta. Vou abordar um de cada vez.
Executando o Windows com memória ruim
É realmente possível executar o Windows 7 com um módulo defeituoso. Dependendo da localização dos setores defeituosos e onde o módulo fica em seus bancos DIMM, o Windows 7 será executado como se não houvesse nada, desde que não tente tocar as partes ruins da memória. Então, idealmente, você moveria o módulo defeituoso o mais longe possível do banco 0. Naturalmente, se este é seu único módulo, você está sem sorte.
Bloqueio de setores com pouca memória no Windows
Em sistemas operacionais x86 (32 e 64 bits), a memória é gerenciada pelo kernel. Como você mencionou, BadMem é capaz de bloquear setores defeituosos de memória no Linux. Ele funciona instruindo o kernel a bloquear os endereços de memória que você especificou. Isso efetivamente impede o Linux de abordar esses endereços ao alocar (e desalocar) a memória. Mas, para fazer isso, o BadMem precisa consertar o kernel. BadMem nada mais é do que um patch de kernel que você configura antes de aplicar.
Agora, você não tem essa capacidade no Windows. Você não pode corrigir o kernel. Desenvolver um driver em modo kernel também não fará bem a você, já que o kernel do Windows nunca deixará seu driver ter precedência sobre sua arquitetura de gerenciamento de memória (compreensivelmente).
Por esse motivo, você não pode instruir janelas de forma alguma para não usar determinados endereços de memória. A única maneira seria a Microsoft corrigir o kernel especificamente para o seu caso. Improvável.
A propagação de endereços de memória ruins
Não há muitas razões pelas quais um módulo de memória pode conter endereços incorretos. Em última análise, tudo se resume a um erro na linha de produção, assumindo que não sofreu danos antes de entrar em seu computador. Ao contrário dos discos rígidos, não há partes móveis nos módulos de memória, como você bem sabe. Assim, os setores defeituosos não tendem a se espalhar, como é o caso dos setores de discos rígidos.
No entanto, o software de teste de memória não é infalível. É possível (e comum) passar certos endereços que são de fato ruins. Tão ruim memória pode dar a impressão de "espalhar" como mais e mais endereços são revelados para ser ruim. Por essa razão, ferramentas como o BadMem revelam sua fraqueza, porque naturalmente elas só podem lidar com esses endereços para os quais você as instrui.
É improvável que alguém possa realizar um teste completo de um módulo de memória e identificar todos os endereços de memória incorretos, bloqueá-los e acabar com um módulo de memória "bom". O mais fácil é considerar um módulo com endereços incorretos como um módulo defeituoso e, consequentemente, não ser confiável.
O que isto significa é que, por mais que o BadMem seja uma proposta atraente, na verdade não é uma solução para o problema da memória ruim. É mais provável que você ainda não acabe com um sistema operacional que tente ler um setor defeituoso e falhe com um erro de parada. Um módulo ruim é um módulo ruim é um módulo ruim.