O comando que você deve usar para alterar o shell é chsh . O shell nologin pode ser /sbin/nologin ou /usr/sbin/nologin (verifique qual deles você está procurando em /etc/shells ), mas /bin/false provavelmente seria uma opção melhor.
chsh -s /bin/false user
Você deve considerar a criação de algo como scponly , que fará exatamente o que você deseja.