Você provavelmente terá definido algumas combinações de configurações incompatíveis. O Gnome Tweak Tool pode ser usado no Ubuntu, mas não é exclusivamente para o Ubuntu + Unity. É por isso que não existe uma opção "definida como padrão", como seria de esperar de uma aplicação, dedicada apenas ao Ubuntu. Remover o aplicativo não desfaria as alterações de configuração feitas com ele.
Como você mencionou que alterou as configurações de tema, abaixo estão as configurações padrão na seção de temas. Se você retornar a essas configurações, provavelmente não terá mais problemas depois de sair e entrar.
Theme section of the Gnome Tweak Tool:
Current theme Ambiance
Cursor theme DMZ-White
Gtk+ Keybinding Theme Default
Icon Theme Unity-icon-theme
Gtk+ Theme Ambiance