Verifique os níveis de alsamixer (digite-o no terminal). Além disso, verifique a configuração pulseaudio. Se você não tiver pulseaudio instalado, instale-o junto com o pavucontrol através do Ubuntu Software Center ou Synaptic. Feito isso, abra o Controle de Volume Pulseaudio e verifique suas configurações. Seria sensato que seus fones de ouvido estivessem conectados e que algum aplicativo de áudio estivesse gerando saída de som, para que você possa ver se a configuração está correta ao enviar a saída para seus fones de ouvido.