Por padrão, a senha da conta raiz está bloqueada no Ubuntu. Isso significa que você não pode logar como Root diretamente ou usar o comando su para se tornar o usuário Root. No entanto, como a conta raiz existe fisicamente, ainda é possível executar programas com privilégios no nível de raiz. É aqui que entra sudo - permite que usuários autorizados (normalmente usuários "Administrativos"; para maiores informações, consulte AddUsersHowto) para rodar certos programas como Root sem precisar saber a senha do root.
Isso significa que no terminal você deve usar o sudo para comandos que exijam privilégios de root; Basta prefixar o sudo para todos os comandos que você normalmente executaria como Root.
Basicamente resume-se a isto:
Use gksudo = aplicativos GUI
Use sudo = aplicativos CLI