De acordo com a documentação oficial do Moodle , você precisa ter certeza de que a porta correta está configurada. Especialmente se você estiver usando SSL:
Most SMTP hosts make use of the default port 25 to for listening email traffic. However, occasionally a non-default port is used. In such cases, entering an SMTP host followed by a colon (i.e. :) and the port number should work. For example, if my SMTP host is myemailserver.com and it listens on port 587 or 465 (most common) instead of port 25 I would enter the SMTP host as myemailserver.com:587.
Olhando para o documento oficial do Google, intitulado “Configurações SMTP do Google Apps para enviar e-mail de uma impressora, scanner, ou app ” mostra mais informações, como a porta SMTP do Gmail, que é de 465.
Então, conhecendo esses dois bits de informação, parece-me que você deve estar alterando o host SMTP a partir disso:
smtp.gmail.com
Para isso:
smtp.gmail.com:465
E tente novamente.