É possível alterar a senha do root usando o setuid?
O que eu tentei é escrever um programa simples que chama system("passwd root") de propriedade de root e seu bit setuid está definido, mas não funcionou.
A saída é: You may not view or modify password information for root.
No seu programa, você provavelmente esqueceu de fazer o uid real e efetivo definido para o mesmo valor. Os gids também devem corresponder ao gid da raiz. Algo parecido com isto:
setuid(geteuid());
setgid(getegid());
Veja, por exemplo, sue (um simples setuid / wrapper setgid).
Thomas Dickey está absolutamente certo. No entanto, não faça isso. Use sudo em vez disso.
Crie /etc/sudoers.d/change_root_pass
YOURUSERNAME ALL = (ALL) passwd root
(Mude YOURUSERNAME).