O pop-up infame que você está se referindo é o sistema de notificação do Ubuntu.
Você verá isso com uma variedade de aplicativos - aplicativos climáticos, empatia e também plugando dispositivos externos.
No entanto, se você não gosta especificamente do rhythmbox exibir uma notificação sobre qual música está sendo reproduzida, é bastante simples desativá-lo.
No menu global do rhythmbox escolha Edit-Plugins
ou Tools > Plugins
, role para baixo e desmarque Notificação
N.B. O menu global pode ser revelado passando o mouse no topo da tela sobre o topo do painel, que é chamado de menu.