Consulte a documentação do Google aqui para obter dicas sobre como configurar pastas para manipular a exclusão corretamente. O comportamento padrão do Outlook faz o que você deseja, embora o iPhone exija ações diferentes para fazer o que você quer (que também são descritas no link).