Se você tem acesso root em sua máquina e quer instalar o pacote em todo o sistema, você pode apenas
sudo apt install python-sklearn
Se você não quer isso ou se você não tem acesso root então continue lendo (o exemplo é para python3; funciona para python2 da mesma forma):
Você precisa instalar um virtualenv primeiro (como usuário não raiz) e usar pip dentro desse virtualenv :
virtualenv -p /usr/bin/python3 /tmp/venv
Agora você pode ativar esse venv e instalar:
$ . /tmp/venv/bin/activate
(venv) $ pip install -U scikit-learn
ou chame diretamente pip (com seu caminho completo):
/tmp/venv/bin/pip install -U scikit-learn
Primeiro, você pode precisar fazer:
sudo apt install python-dev
Se você usar o interpretador nesse virtualenv (dentro de um shell activate d ou novamente com o caminho completo /tmp/venv/bin/python3 , você deve ser capaz de usar o pacote scikit-learn).
/tmp/venv/ é obviamente um caminho estúpido para colocar o virtualenv; você costuma tê-lo em algum lugar no seu /home .
Aqui estão os documentos para virtualenv (que estão incluídos na distribuição padrão do python).