Apenas a partir da navegação nos registros, parece que está faltando os cabeçalhos zmq . Você tentou sudo apt-get install libzmq-dev primeiro?
Na verdade, parece que há um pacote python3-zmq , talvez instalá-lo primeiro permitiria que o pip3 install jupyter prosseguisse.