Eu suspeito que runuser não passe pelo processo de "login" do PAM que aplica o limits.conf, ou talvez o pam_limits.so esteja desabilitado. No Debian, pelo menos, /etc/pam.d/su tem pam_limits.so comentado para que os limites sejam herdados do usuário que está executando o su.