Atualizar
Como observa o mikemaccana, o jornal do sistema agora é o dispositivo de registro padrão para a maioria das distros.
Para visualizar o stdout e o stderr de uma unidade do systemd, use o comando journalctl .
sudo journalctl -u [unit]
Resposta original
Por padrão, stdout e stderr de uma unidade do sistema são enviados para o syslog.
Se você estiver usando o sistema completo, isso será acessível via journalctl .
No Fedora, deve ser /var/log/messages , mas o syslog irá colocá-lo onde suas regras dizem.
Devido à data do post, e assumindo que a maioria das pessoas que estão expostas ao systemd são via fedora, você provavelmente foi atingido pelo bug descrito aqui:
link
Ele tem uma boa explicação de como tudo funciona também =) (Este foi um bug no selinux-policy que fez com que mensagens de erro não fossem registradas, e foi corrigido em selinux-policy-3.10.0-58.fc16 )