Veja como você impede que os Documentos Recentes sejam preenchidos (não apenas ocultos no Menu Iniciar): link
Veja como você impede que o Media Player mantenha o histórico: link
Existe algum outro lugar em que você esteja vendo o histórico de arquivos que você abriu além deles? O Microsoft Office pode manter um histórico de documentos recentes separado, mas você pode desativá-lo nas preferências.