Sim, você pode remover o conector do alto-falante com cuidado enquanto o PC estiver ligado. Apenas certifique-se de não tocar acidentalmente em mais nada com contatos metálicos em branco, etc.
Quando o alto-falante está em silêncio, nenhuma corrente está fluindo, então é perfeitamente seguro.
No entanto, pode ser mais difícil remover o próprio alto-falante, mas isso realmente depende do seu chassi. É possível que você não possa removê-lo sem precisar remover outras coisas que não deseja remover enquanto o computador estiver em execução.