Concordo com os comentários acima em relação ao uso de sudo sobre o login como raiz. Dito isso, aqui está uma variação de algo de /etc/bash/bashrc na minha caixa do Gentoo que eu acho que faz o que você quer:
if [[ "$(id -u)" == "0" ]] ; then
PS1+='\[3[01;31m\]\h\[3[01;36m\] \w \$\[3[00m\] '
else
PS1+='\[3[01;32m\]\u@\h\[3[01;36m\] \w \$\[3[00m\] '
fi
Dependendo de onde você o colocou, talvez queira alterar PS1+= para PS1= .