Seu banco de dados mysql já possui uma senha root. Provavelmente foi definido quando você instalou o mysql.
Se você souber a senha existente, use isto:
sudo mysqladmin -p password NEW_PASSWORD
O '-p' irá dizer ao mysql para solicitar que você digite sua senha antiga primeiro. Em seguida, ele substituirá a senha existente pela string NEW_PASSWORD.
Se você não se lembra da senha original, você precisa desligá-la e iniciá-la seguindo as instruções em link . Isso é fácil de fazer, mas requer algum tempo de inatividade.
UPDATE
Outra opção.
Você pode dizer ao Ubuntu para reconfigurar seu servidor MySQL. Isso irá reconfigurar o mysql-server-5.1 a partir do zero, e solicitará uma nova senha do usuário root. Cuidado: Isso eliminará completamente os dados existentes e os substituirá pelos dados padrão. No entanto, estou supondo que seu banco de dados não contém nada.
sudo dpkg-reconfigure mysql-server-5.1
(Se bem me lembro, o Ubuntu 10.04 vem com o servidor MySQL 5.1, não 5.0)