Por padrão, o alto-falante é desligado, mas você ouvirá primeiro o tom de resposta. Existe um comando (na maioria dos modems) que permite que você escolha manter o alto-falante sempre ligado (ou sempre desligado).
Quanto ao seu problema, o outro lado tem que responder. Basta ligar do telefone e ver se funciona. (Você provavelmente fez isso, mas não mencionou isso.)
Seguindo o link de ernie ... o ATM2 deixará o falante ligado. ATM1 é o padrão que descrevi acima.