Se você excluir permanentemente algo, ele não criará uma pasta .Trash
e a colocará lá. Para fazer isso no Nautilus (o navegador de arquivos padrão no Ubuntu), simplesmente segure a tecla Shift enquanto pressiona delete. Isso ignorará a Lixeira, que é semelhante à Lixeira do Windows e permite a exclusão.
Você também pode adicionar um comando de clique com o botão direito do mouse Excluir, que ignora a lixeira no Nautilus. Para fazer isso, abra o Nautilus e selecione Editar - > Preferências Em seguida, clique na guia Comportamento e selecione "Incluir um comando Excluir que ignora a Lixeira".
Além disso, como Uri Herrera mencionou, você pode esvaziar a lixeira para removê-la.