Se você fizer configurações separadas para o volume do fone de ouvido e o volume do alto-falante, poderá definir os alto-falantes para o volume zero. Isso efetivamente deixaria você sem som quando os fones de ouvido não estiverem conectados.
Esse recurso depende do hardware e dos drivers da placa de som. Aqui está um post útil sobre este assunto em um fórum do Windows 7. Você precisará explorar a configuração da sua placa de som para ver se é possível.