O problema aqui é a diferença entre o login e os shells interativos. Veja aqui para um resumo.
~/.bashrc é lido apenas ao iniciar um shell interativo (não-login). Quando você ssh em uma máquina remota, você está executando um shell login , então ~/.bash_profile ou ~/.bash_login ou ~/.profile (nessa ordem) são lidos. Você pode verificar isso executando bash depois de efetuar o logon no servidor remoto, que iniciará um shell interativo, ~/.bashrc será lido e o prompt modificado será exibido.
Para alterar o prompt exibido quando você ssh , defina $PS1 em ~/.bash_profile :
export PS1="\[\e[01;36m\][\u]\[\e[0m\] \[\e[01;37m\]\W\[\e[0m\] $ "
Como alternativa, você pode chamar ~/.bashrc de ~/.bash_profile ou ~/.profile :
if [ "$BASH" ]; then
if [ -f ~/.bashrc ]; then
. ~/.bashrc
fi
fi
O if [ "$BASH" ]; then é útil ao usar ~/.profile , já que ele será lido por shells não bash.