Concordo com os comentários acima em relação ao uso de sudo
sobre o login como raiz. Dito isso, aqui está uma variação de algo de /etc/bash/bashrc
na minha caixa do Gentoo que eu acho que faz o que você quer:
if [[ "$(id -u)" == "0" ]] ; then
PS1+='\[3[01;31m\]\h\[3[01;36m\] \w \$\[3[00m\] '
else
PS1+='\[3[01;32m\]\u@\h\[3[01;36m\] \w \$\[3[00m\] '
fi
Dependendo de onde você o colocou, talvez queira alterar PS1+=
para PS1=
.