Você está certo de que é estranho que isso só aconteça com "Salvar página como". Mas, em geral, suspeito que isso seja uma característica, não um bug. Lembrar onde um arquivo foi salvo pela última vez pode ser considerado um vazamento de informações exatamente do tipo que o modo anônimo deve minimizar.
O Chrome parece usar a caixa de diálogo do sistema operacional nativo para salvar arquivos. Eu não estou profundamente familiarizado com o modo como eles funcionam, mas pode ser que eles tenham uma maneira de serem explicitamente chamados para não lembrar da pasta usada mais recentemente.
Além disso, para muitos sistemas operacionais, a "pasta mais usada recentemente" é lembrada no perfil do usuário (para que esteja disponível em vários aplicativos). Pode ser que o modo de navegação anônima invoque um perfil de usuário temporário ou restrito que não permite que a pasta MRU seja gravada.
Então talvez seja um bug - eu quero esse comportamento para todos arquivos salvos, não apenas arquivos HTML.