O aumento da RAM resolveu o problema.
Instalei o GitLab, seguindo a instrução oficial dada, mas estou com erro 502 ao tentar usá-lo. Entrada de log do Nginx:
*30 upstream prematurely closed connection while reading response header from upstream, client: 95.27.118.xx, server: gitlab.somehost.net, request: "GET /users/sign_in HTTP/1.1", upstream: "http://unix:/home/git/gitlab/tmp/sockets/gitlab.socket:/users/sign_in", host: "gitlab.somehost.net"
Como eu me lembro da experiência de instalação anterior do GitLab, a causa do erro é que o GitLab está inicializando no primeiro acesso do usuário, e o nginx pensa que é o tempo limite, portanto a solução está aumentando algum valor de tempo limite. O problema é que eu não lembrava qual o tempo limite eu deveria aumentar (isso resolveu o erro para mim com a instalação anterior), e o Google não me ajuda.