Esta é uma resposta preliminar, vou atualizá-la à medida que mais detalhes forem sendo fornecidos.
systemd
não inicia o X como o antigo sistema de nível de execução usado, mas em vez disso ele inicia o gerenciador de exibição (LightDM no meu caso) e é realmente o gerenciador de exibição que inicia o X.
Então a questão é realmente como alguém diz ao gerenciador de exibição para alterar a pontuação OOM do servidor X.
Eu fiz uma pergunta aos desenvolvedores do LightDM e eles parecem abertos a idéia de incluir uma opção para definir a pontuação do OOM (como ter o processo pai definido como o resultado do OOM parece ser a melhor maneira de fazer isso), então será uma questão de alguém implementar essa opção.
Até lá, a sugestão nos comentários acima de alterar a opção xserver-command
config deve resolver o problema.