Para usar o mesmo postfix no aplicativo do servidor e no terminal com o aplicativo do servidor 5, é necessário fazer algumas correções.
A principal diferença do aplicativo do servidor 3 e 5 é que no aplicativo do servidor 3, usado postfix do sistema, portanto, era possível nesse tempo comandar esse postfix do aplicativo do servidor 3 pelo terminal, agora com o aplicativo do servidor 5, habilidade tem mudanças, agora você tem o postfix do sistema e outro postfix em,
/Applications/Server.app/Contents/ServerRoot/
existem muitos locais onde o novo main.cf se está apontando, que são diferentes do aplicativo do servidor 3.
Aqui eu farei uma lista de alterações do /Library/Server/Mail/Config/postfix/main.cf do aplicativo do servidor 3 para o aplicativo do servidor 5 (também no mesmo caminho) para quem quiser usar o postfix nativo (no comentário os novos valores do aplicativo do servidor 5):
#command_directory = /Applications/Server.app/Contents/ServerRoot/usr/sbin
command_directory = /usr/sbin
#daemon_directory = /Applications/Server.app/Contents/ServerRoot/usr/libexec/postfix
daemon_directory = /usr/libexec/postfix
#sendmail_path = /Applications/Server.app/Contents/ServerRoot/usr/sbin/sendmail
sendmail_path = /usr/sbin/sendmail
#mailq_path = /Applications/Server.app/Contents/ServerRoot/usr/bin/mailq
mailq_path = /usr/bin/mailq
#html_directory = /Applications/Server.app/Contents/ServerRoot/usr/share/doc/postfix/html
html_directory = /usr/share/doc/postfix/html
#manpage_directory = /Applications/Server.app/Contents/ServerRoot/usr/share/man
manpage_directory = /usr/share/man
#sample_directory = /Applications/Server.app/Contents/ServerRoot/usr/share/doc/postfix/examples
sample_directory = /usr/share/doc/postfix/examples
#readme_directory = /Applications/Server.app/Contents/ServerRoot/usr/share/doc/postfix
readme_directory = /usr/share/doc/postfix
Pelo menos comigo no aplicativo do servidor 3 desativar o correio não desligou o postfix e o dovecot, mas agora com o Server App 5, ele desativa os dois, portanto, você deve começar com o postfix:
postfix start
e, em seguida, começar dovecot (você só precisa de argumentos para parar ou recarregar),
dovecotd