A partir dos comentários, parece que você instalou o Eigen3 e o Avogadro requer o Eigen2.
Primeiro desinstale o Eigen 3:
sudo rm -rf /usr/local/include/eigen3/
sudo rm /usr/local/share/pkgconfig/eigen3.pc
Em seguida, baixe e extraia Eigen2 . Feito isso, instale-o:
mkdir /home/brentonhorne/build_eigen2
cd /home/brentonhorne/build_eigen2
cmake /home/brentonhorne/eigen-eigen-b23437e61a07
make
sudo make install
Agora você terá que excluir o CMakeCache.txt para o Avogadro, pois ele terá o caminho para o Eigen3 em cache:
cd /home/brentonhorne/build
rm CMakeCache.txt
Finalmente, execute novamente o CMake e faça:
cmake /home/brentonhorne/avogadro-1.1.0
make
sudo make install