sudo apt --reinstall install rtorrent
consertou neste caso. O OP estava executando uma versão criada manualmente a partir da fonte anterior, mas quando libcrypto.so.1.0.2 não estava mais disponível no sistema devido a uma atualização, ele se recusou a funcionar. A instalação do rtorrent das fontes do pacote resolve o problema em tal caso. Para o 16.04, isso não tem desvantagens, pois as fontes de pacotes contêm a versão 0.9.6, que é a mais recente no momento. No entanto, se houver uma versão do sistema não-pacote instalada, é uma boa idéia removê-la antes de instalar a versão do pacote, para evitar colisões e manter o sistema limpo.