Este é um bug antigo que foi reportado várias vezes para o OpenOffice e o LibreOffice:
Bug 32664: Teclas de volume do teclado não funcionam quando o LibreOffice está em foco (2010) < br> [Problema] Teclas de volume do teclado não funcionam quando o OOo está aberto (2009)
[Problema] Teclas multimídia no Windows e Openoffice (2009)
Número 99520 - mau funcionamento do teclado multimídia (2009)
Esse bug nunca foi corrigido e nenhuma solução alternativa foi encontrada.
Acho que você terá que conviver com isso ou usar uma suíte de escritório gratuita alternativa como o Kingsoft Office.
Você também observou que o Winamp é igualmente agressivo ao assumir essas chaves, por isso consegue recuperá-los do OpenOffice / LibreOffice.