Você está absolutamente certo, eles usam diferentes PYTHONPATH s.
Você pode pensar no Python 2.xe no Python 3.x como ambientes de programação completamente diferentes. E sim, eles armazenam seus pacotes em locais diferentes.
Para ficar numpy trabalhando, você pode digitar:
sudo apt-get install python3-numpy
Se você quiser descobrir onde exatamente um pacote é mantido, pode ver os objetos do módulo __path__ attribute:
>>> import numpy
>>> numpy.__path__
['/usr/local/lib/python3.5/site-packages/numpy']
Você também pode instalar python3-pip e, em seguida, executar pip3 install whatever para instalar pacotes para o Python 3 com Pip , para pacotes que não estão disponíveis no Ubuntu como python3-whatever .
Caso você esteja confuso sobre a diferença entre distutils, setuptools, easy_install, pip e o resto, use pip. Essa é a legal. :)