Sim, você deve remover alguns pacotes. Use:
sudo apt-get remove --purge appmenu-gtk appmenu-gtk3 appmenu-qt firefox-globalmenu thunderbird-globalmenu indicator-appmenu
Isso restaurará os menus do aplicativo no lugar certo.
UPD: pode haver alguns pacotes que perdi. Para encontrá-los, abra o Synaptic e, no campo de pesquisa, digite "appmenu", verifique os pacotes encontrados para remoção, procure "globalmenu" e remova-os também.
Reinicie / volte a entrar na sua sessão X para concluir as alterações.
Verifique também este artigo .