Você pode removê-lo da área de trabalho. No Win7, vá para Iniciar > Painel de controle > Aparência e Personalização > Personalização > Alterar ícones da área de trabalho. Uma vez lá, desmarque a caixa ao lado da Lixeira e clique em Aplicar. Isso deve manter a maioria das pessoas longe disso. A Lixeira ainda vai aparecer sob a área de trabalho no Gerenciador de Arquivos, no entanto, dependendo de quão experientes seus filhos são, eles ainda podem chegar a ela.
Isso também não impede que eles façam Shift + Excluir para excluir diretamente o arquivo, ignorando completamente a Lixeira.