Um dos problemas que você vai encontrar é que eu não acho que existam placas de modem T1 para o MacOS. A Dialogic é a empresa para esses tipos de cartões, e eles não parecem ter o Mac OS listado como suportado. No entanto, uma rápida pesquisa no google encontrou macclub vendendo uma placa Dialogic.
Agora, no que diz respeito a soluções. Se você puder obter uma placa T1 que funcione para o MacOS e apresente os DS0s como interfaces seriais, você deve estar pronto para ir nesse ponto.
Do manual do Hylafax:
The Eicon Diva Server is known to work well. The Patton 2977 using recent firmware from Patton also works well. As for others, some work, some don't, and some work better than others. Again, traditional compatibility requires the hardware to be accessible by a terminal-like program. Please consult the hylafax-users mailing list (and archives) for user experience with HylaFAX using digital modems.
Outra opção que funciona é a configuração de uma caixa de asterisco como seu fax servidor e usuário IAXModem para enviar faxes. Isso fizemos em nosso laboratório de testes com um servidor asterisco e funciona bem.