Assumindo que seu programa é chamado a partir de um Prompt de Comando, o stderr e o stdout são, por padrão, direcionados para o console.
Se você quiser salvá-los em um arquivo, você deve redirecionar a saída.
STDOUT:
c:\path\program.exe >c:\temp\stdout.log
STDERR:
c:\path\program.exe 2>c:\temp\stderr.log
STDOUT and STDERR in different files
c:\path\program.exe >c:\temp\stdout.log 2>c:\temp\stderr.log
STDOUT and STDERR in the same file
c:\path\program.exe >c:\temp\stdout.log 2>&1
Se você deseja adicionar um arquivo de registro existente em vez de sobrescrever o conteúdo, use "> >" em vez de ">". Se o arquivo de log não existir, ele será criado nos dois casos.
Editar: Você editou sua pergunta com mais detalhes depois da minha resposta inicial. Então a nova resposta seria: não, eles não são armazenados automaticamente. Você deve redirecionar explicitamente os fluxos de saída para um arquivo, se desejar.