A localização dos executáveis binários que você deve adicionar ao $PATH em sua configuração é
/home/my_user/programs/java/jre1.8.0_101/bin
(você esqueceu o /bin ).
Além disso, você deseja que seu local adicionado tenha a prioridade mais alta (ele deve substituir o local padrão do sistema de java ), portanto, é necessário trocar a ordem do diretório e o antigo $PATH content.
Basta editar a linha adicionada ao seu arquivo .bashrc para:
export PATH=/home/my_user/programs/java/jre1.8.0_101/bin:$PATH
Não se esqueça de recarregar o arquivo .bashrc fechando e reabrindo o terminal ou executando source .bashrc para que as alterações entrem em vigor.