apt , o gerenciador de pacotes, é uma ferramenta do Linux, do Debian GNU / Linux. o macOS não tem isso.
Existem projetos como o Homebrew, o MacPorts e o Fink, que fornecem softwares de terceiros para o macOS.
O pkgsrc do NetBSD também funciona bem no macOS: link
Quanto a md5sum : Nos Units BSD, dos quais o macOS é um, geralmente existe um utilitário chamado md5 available que executa o mesmo serviço (mas com formato de saída ligeiramente diferente).
Se você instalar o GNU coreutils usando as ferramentas fornecidas por um dos projetos acima, md5sum será instalado. O executável às vezes é chamado de gmd5sum (anote o prefixo g adicionado, que também é adicionado a todos os outros executáveis do coreutils do GNU).