O certbot-auto usa seu próprio ambiente virtual instalado, incluindo sua própria compilação de python. Isso foi (naturalmente) não atualizado no dist-upgrade para Jessie. O certbot-auto não detectou que precisava de uma reconstrução, achando que todas as dependências estavam satisfatoriamente já instaladas.
Então a correção foi:
rm -rf /opt/eff.org
/usr/local/bin/certbot-auto
que então baixou e reconstruiu tudo o que era necessário.