Como posso garantir que os usuários não possam fazer login no sistema, exceto com o FTP?
Crie usuários com o nologin shell.
Em seguida, eles poderão se autenticar no servidor FTP com seu nome de usuário e senha, mas não poderão fazer ssh ou telnet.
Por exemplo, em um sistema Fedora ou Red Hat:
# useradd -s /sbin/nologin username
# passwd username
<type the password>
Existem algumas abordagens para isso, dependendo de suas necessidades.
Uma é configurar o shell para algo que não seja shell, como descrito em outra resposta.
Outra é usar iptables para configurar um firewall que proíba todos os acessos, exceto o FTP. Se você quiser tornar o servidor acessível publicamente, recomendo essa opção, possivelmente em combinação com a primeira. Você precisará ativar o rastreamento de conexão para que ele funcione corretamente com o FTP.