Essa é uma boa pergunta.
Normalmente, os aplicativos que precisam do bit setuid e setgid são aplicativos que precisam executar tarefas de administração por usuários não-root.
Tome por exemplo o programa passwd. É usado para alterar a senha. As senhas são armazenadas no arquivo / etc / shadow, que só é legível pelo root, daí o uso do bit setuid.
Geralmente, em distros populares do Linux, esses aplicativos são seguros de usar, porque são todos testados e sem erros.
Eu não sei como você pode descobrir se um aplicativo precisa desses bits ou não, mas você pode instalar um aplicativo como o snort ou o AIDE que verifica a integridade dos arquivos e pode alertá-lo quando algum arquivo foi alterado - particularmente aqueles com bits setuid e setgid.