A barra de ferramentas no evince aparentemente tem bugs, de acordo com relatórios de bug, e não é possível ocultá-la, já que ela lembra configurações por arquivo, que substituem / ignoram a configuração de visibilidade da barra de ferramentas ajustada por meio de dconf-editor.
É uma pena que o evince, que funciona tão bem, tenha essa falha na interface do usuário. A barra de ferramentas de visibilidade deve ser ajustada no menu "Visualizar". Por favor traga esse menu de vista de volta.