Eu realmente queria escrever isso como um comentário, mas não tenho representantes suficientes, mods e outros são misericordiosos
No Ubuntu, o conceito de "delete" do Windows é "Move to Trash", no que diz respeito ao desktop.
Isso também pode ser feito apenas destacando o item que você quer e pressionando a tecla delete. Se você quiser que ele seja perdido permanentemente e não fique pendurado na pasta da lixeira, use Shift + delete.
O Move To Trash não está na lista de opções? o que acontece quando você aperta a tecla delete?