A questão é que o Ubuntu 16 usa o Python3.5, mas o Tensorflow fornece apenas uma roda para o Python 3.4 (indicado por 'cp34' em "tensorflow-0.7.1-cp34-none-linux_x86_64.whl"). Felizmente a roda é realmente compatível com o Python 3.5, então você não precisa compilar a partir da fonte.
Você precisa baixar a roda, renomeá-la para evitar a falha na verificação do python 3.4 e, em seguida, instalar passando o arquivo renomeado para pip.
Para a versão atual do Tensorflow (espreitamos no futuro, verifique o site para obter a versão mais recente e adapte os comandos abaixo, se necessário), execute:
wget https://storage.googleapis.com/tensorflow/linux/cpu/tensorflow-0.8.0-cp34-cp34m-linux_x86_64.whl
mv tensorflow-0.8.0-cp34-cp34m-linux_x86_64.whl tensorflow-0.8.0-cp35-none-linux_x86_64.whl
pip install tensorflow-0.8.0-cp35-none-linux_x86_64.whl