Se o seu script PHP está fazendo conexões SMTP diretas, ele está abrindo um soquete (normalmente a porta 25 - mas pode ser qualquer porta). Infelizmente, você não encontrará um log de e-mail pega-tudo, pois seu servidor nunca ficará ciente de que esta é uma conexão de e-mail e, portanto, não pode realmente registrá-lo (sem truques ou avisos especiais, é claro).
Uma coisa que você pode fazer, no entanto, é enviar todas as suas mensagens através de um MTA (como sendmail, qmail, exim etc.). Configure o MTA para usar o SMTP. Em seguida, o MTA irá capturar todos os emails de saída e registrá-los - como você espera.
Outro truque seria modificar seu script PHP para registrar manualmente o email - mas tenho certeza que você considerou isso.