Você não está substituindo apenas o navegador de arquivos no Windows quando você altera essa opção, você está substituindo todo o shell .
Configurar o shell como um navegador de arquivos alternativo não funcionará (como você descobriu), já que o shell é responsável por muito mais do que apenas navegar em seus arquivos.
A Wikipedia fornece uma lista de reservatórios alternativos para janelas , nunca experimentei nenhuma delas, por isso não posso dizer se são bons ou ruins.
+-------------------------+----------------+--------------------+ | Shell | Type | OS | +-------------------------+----------------+--------------------+ | Cairo Shell | Closed source | XP, Vista, 7 | | Calmira | Open source | 3.1 | | Classic Shell | Open source | Vista, 7, 8 | | Emerge Desktop | Open source | 2000, XP, Vista, 7 | | GreenGnome* | Open source | XP | | LDE(X) | Open source | 2000, XP | | LiteStep | Open source | 95+ | | BB4Win | Open source | 95+ | | bbLean | Open source | 95+ | | SharpEnviro* | Open source | XP, Vista, 7 | | KDE Windows | Open source | XP, Vista, 7 | | BumpTop* | Proprietary | XP, Vista, 7 | | Packard Bell Navigator | Proprietary | 3.1, 95 | | Talisman Desktop | Proprietary | 95+ | | Aston Shell | Proprietary | 95+ | | TabWorks* | Proprietary | 3.x | +-------------------------+----------------+--------------------+ (*Discontinued)