Eu entendo que você deseja que seu Asterisk PBX use um modem dial-up como um cartão analógico PSTN para fazer e receber chamadas, seu Asterisk PBX o converte para SIP e colocar a chamada em um softphone.
O grande problema é que o Asterisk não consegue "conversar" com a placa de modem porque existem centenas de modelos diferentes e o Asterisk não tem os drivers para cada um.
Há um cartão barato, o cartão X100P que você pode usar para isso. Na verdade, é um softmodem V.92 baseado no chipset Intel 537 ou MD3200.
Este cartão é full-duplex, que é necessário para aplicativos VoIP e o Asterisk possui drivers específicos Zaptel para esta placa.
É possível usar um cartão com o mesmo chipset, no entanto, para que o driver Zaptel reconheça que você precisa fazer modificações no driver e isso significa mexer no código-fonte do driver.
Também existem FXO ATA que permitem obter o mesmo resultado adicionando o ATA à sua rede.