O comando que eu precisava era
javac -classpath .:/opt/ibm/ILOG/CPLEX_Studio_Community128/cplex/lib/cplex.jar *.java
Consulte a documentação do javac para obter mais informações: link (Eu deveria ter verificado isso antes: O).
O .:
no começo do caminho me permite incluir meu diretório atual também.