A melhor maneira de fazer isso é não deixar o hylafax fazer qualquer conversão. textfmt só pode fazer ascii, então qualquer outro personagem é obrigado a quebrar. A melhor opção é alimentar os arquivos PDF do hylafax que você mesmo gera.
Uma maneira possível de fazer isso é usar HTML em vez de arquivos de texto e usar algo como wkhtmltopdf para converter estes para PDF.