Você pode clicar com o botão direito do mouse no ícone da bandeja e "marcar" "Ocultar da barra de tarefas quando estiver fechado".
E, em seguida, clique na cruz:)
Eu tive o mesmo problema e encontrei a solução no Google.
Ainda bem que seria ótimo se fosse também na página de Preferências, onde eu olhei primeiro.