Você precisa manter /opt/jdk1.8.0_121 , que é onde o JDK está instalado. Os comandos alternatives não copiaram a instalação em nenhum outro lugar, apenas definem vários links para que a instalação Java padrão usada no sistema seja a instalação contida em /opt/jdk1.8.0_121 .
Note que você também pode instalar o JDK 8 (como fornecido pelo OpenJDK) instalando o pacote java-1.8.0-openjdk-devel Fedora:
dnf install java-1.8.0-openjdk-devel