Você pode executar o mplayer com o sinalizador -af:
mplayer -af volume=10:1
em que o valor 10 significa que o som é amplificado em 10dB
Para definir isso, edite o arquivo de configuração do mplayer:
~/.mplayer/config
adicione a opção:
af=volume=10:1
O sinalizador af altera o volume do hardware. Se isso não funcionar, você pode tentar especificar o mixer de software e alterar o volume do software com as opções:
softvol=yes
softvol-max=1000