É possível remover a borda completa da janela:
Instale Gerenciador de configurações do CompizConfig :
sudo apt-get install compizconfig-settings-manager
Abra-o via ccsm
ou fora do traço.
Desative o plug-in "Decoração de janelas" (em "Efeitos") desmarcando-o: