As páginas man do MacOS X estão localizadas em /usr/share/man
.
Verificando um sistema próximo, o conteúdo da variável $ MANPATH se parece com: /usr/share/man:/usr/local/share/man:/usr/X11/share/man
Quanto ao aplicativo que você compilou, como você instalou o binário? Isso foi instalado a partir de um tarball básico?