Você precisa instalar alguns pacotes obrigatórios para que o gem funcione. Deve ser ...
sudo apt-get install libmysql-ruby libmysqlclient-dev
e depois disso
sudo gem install mysql2
funcionará.
Origem .
Quando executo este comando, recebo este erro
$ sudo gem install mysql2
Building native extensions. This could take a while...
ERROR: Error installing mysql2:
ERROR: Failed to build gem native extension.