Quando esses são realmente os passos que você seguiu, então esta é a sua solução.
Abra um terminal e execute este comando se quiser remover todas as configurações:
sudo apt-get purge mysql-apt-config
Caso contrário, este comando é suficiente:
sudo apt-get remove mysql-apt-config