Eu suspeito que runuser
não passe pelo processo de "login" do PAM que aplica o limits.conf, ou talvez o pam_limits.so esteja desabilitado. No Debian, pelo menos, /etc/pam.d/su
tem pam_limits.so comentado para que os limites sejam herdados do usuário que está executando o su.