Esse é um comportamento normal para verificar se há cookies de autenticação ou de rastreamento.
A execução no modo privado / anônimo não impede que sites enviem ou usem cookies para sua sessão. O que esses modos de navegação realmente fazem é apresentar sua sessão ao site como um usuário novo, nunca visto antes.
Sendo um usuário "novo", o site apenas tratará você da mesma forma que um novo usuário genuíno. A conversa entre os dispositivos seria mais ou menos assim:
SERVER: Hi, have you been here before?
YOUR PC: Nope, never.
SERVER: OK, well have this cookie so I can follow the crumbs you leave behind as you travel my links!
YOUR PC: OK, sure.
YOU CLOSE AND REOPEN THE BROWSER
SERVER: Hi, have you been here before?
YOUR PC: Nope, never.
etc, etc...
Quando você sai do navegador, todos os cookies recebidos são excluídos com segurança.