Não parece haver uma maneira de remover os itens excluídos (a lixeira pode parecer).
No entanto, remover os dois pacotes a seguir removerá os Aplicativos, Arquivos e Pastas: sudo apt-get remove unity-place-applications unity-place-files
Você precisará sair e voltar para que isso entre em vigor.