Do manual do chsh:
When altering a login shell, and not the super-user, the user may not change from a non-standard shell or to a non-standard shell. Non-standard is defined as a shell not found in /etc/shells.
Então, você precisa executar o chsh como root ( sudo chsh -s /usr/local/bin/bash user ) ou adicionar /usr/local/bin/bash a /etc/shells ( sudo echo /usr/local/bin/bash >>/etc/shells ).
Mas observe que o fato which bash ainda aponta para /bin/bash não significa que seu shell não tenha sido alterado, significa apenas que /bin é antes de /usr/local/bin em seu PATH .