Na verdade, resolvi isso de forma independente, observando outras especificações do RPM que faziam coisas semelhantes. Se você quiser apenas adicionar um usuário (condicionalmente), use o link de Ignacio. Eu fiz isso:
Requires(pre): /usr/sbin/useradd, /usr/bin/getent
Requires(postun): /usr/sbin/userdel
%pre
/usr/bin/getent group myservice || /usr/sbin/groupadd -r myservice
/usr/bin/getent passwd myservice || /usr/sbin/useradd -r -d /path/to/program -s /sbin/nologin myservice
%postun
/usr/sbin/userdel myservice
Isso garante que o RPM "limpe depois de si mesmo", mas ainda fornece a capacidade de instalar, mesmo que a conta já exista.