Eu tenho o mesmo problema e ainda não encontrei uma solução ideal.
Que tal mapear alguma combinação de teclas para os recursos de mídia? Eu uso Super + F10 para mudo, Super + F11 para volume baixo, etc.
Em seguida, você pode alterar a configuração do sistema no Host do OSX para usar todas as teclas Fn como teclas Fn normais para um atalho de dois botões no Ubuntu Guest (Super + F10) ou deixar as teclas Fn como teclas de mídia no OSX e usar um atalho de três botões no convidado (Super + Fn + F10).