Você pode matar todos com:
who | awk ' !~ /root/{ cmd="/sbin/pkill -KILL -u " ; system(cmd)}'
Você precisa ser root ou usar o sudo.
Lembre-se de que matar todos os usuários pode ser perigoso e danificar seu sistema de arquivos. Além disso, incomode seus usuários; o que você espera que aconteça se um deles estiver fazendo algo como a manutenção do mysql quando você os mata?
Você realmente deve usar ps -ef | grep "user"
ou algo semelhante para inspecionar seus processos.
Por que não avisá-los em vez disso?
shutdown -h +10 "Server is going down 10 minutes. Save your work and logout."