Você não pode recuperar as senhas, pois elas são armazenadas em um formato criptografado, mas você pode redefini-las se tiver acesso ao programa mysql com privilégios adequados.
Obtenha uma lista dos usuários que o mysql conhece como este
mysql -u root -p
enter your root password
mysql select user,host from mysql.user;
+------------------+-------------+
| User | Host |
+------------------+-------------+
| root | localhost |
| user1 | localhost |
| user2 | localhost |
+------------------+-------------+
Agora você tem uma lista de usuários que você pode definir as senhas para algo que você possa lembrar
mysql> set password for 'user2'@'localhost' = PASSWORD('SomeNewPassword');
Há mais sobre isso no manual de referência do mysql