Para o Ubuntu 12.04 +
Caminho LightDM
Também conhecido como FluteFlute Slap, o LightDM Way envolve ter que sair e na tela de login do LightDM, você pode alterar o volume ou mesmo silenciar o som.
No login, você pode ver o volume no canto superior direito. Ajustar o volume não afeta o volume quando a sessão é iniciada, então você pode MUDAR o som no Greeter sem silenciar o som quando sua sessão começa:
Ubuntu Tweak Way
A maneira do Ubuntu Tweak envolve ter que baixar o aplicativo Ubuntu Tweak e, em seguida, desativar o som de lá. Faça os seguintes passos e você pode fazer assim:
sudo add-apt-repository ppa:tualatrix/ppa
sudo apt-get update
sudo apt-get install ubuntu-tweak
Abra o Ubuntu Tweak e na aba Tweak selecione a opção "Login Settings", você deverá ver a opção Play Login Sound. Você precisa clicar no botão Bloquear acima para poder alterar isso.
Para o Ubuntu 11.10 e abaixo
Ir para System -> Preferences -> Startup Applications
Desative o chamado som de login do GNOME
(desmarque a caixa e clique em fechar)
você também pode ir para System -> Preferences -> Sound
e desativar todo o sistema de som (como janelas, sons, alertas, etc.)
Na versão antiga, você poderia ir para a parte de Preferências de som e selecionar cada som e o que você queria fazer. Foi removido por volta de 9.04 ou 9.10. Seria bom se voltasse.