Isso soa como algo que você pode configurar usando o alsamixer.
Abra um terminal e simplesmente digite "alsamixer". No lado direito dos vários controles de volume, você verá um "modo de automute". Basta tocar na tecla de seta para cima do teclado para ativá-la e, em seguida, pressionar escape.
Se não houver "modo automático" no mixer, você pode desligar manualmente os alto-falantes quando os fones de ouvido estiverem conectados, simplesmente destacando o canal que tem os alto-falantes conectados e pressionando a tecla "m".
Para referência futura, poste o hardware específico que você está usando quando está com um problema. Isso torna o diagnóstico muito mais fácil, porque podemos procurar por erros conhecidos.
Felicidades!