Você precisa extrair o .jar desse arquivo compactado e adicioná-lo ao Eclipse.
Dentro dele você encontrará mysql-connector-java-<version>-bin.jar
, que é o jar que você está procurando e alguns outros arquivos (como código-fonte e documentação).
Nota: o pacote libmysql-java
realmente fornece o jar que você precisa (ele é colocado em /usr/share/java/mysql-connector-<version>.jar
), portanto, se o Eclipse não o encontrar, você pode precisar alterar algo em "Java Build Path".