Não sei quanta experiência você tem com a compilação, mas, em geral, ter uma biblioteca instalada não é necessariamente suficiente. Para compilar em uma biblioteca, você também precisa ter os cabeçalhos de desenvolvimento instalados. O pacote para isso é normalmente chamado de [nome-da-biblioteca] -dev, portanto verifique e certifique-se de que está instalado. Para esse, provavelmente será chamado 'libgomp1-dev' no instalador de pacotes, ou algo similar.
Esse erro que você postou parece um erro do compilador. O que o script configure diz sobre a libgomp quando você a executou? Geralmente, verifica as bibliotecas dependentes.
Editar:
Os arquivos de cabeçalho geralmente são armazenados em /usr/include
ou /usr/local/include
por padrão. Acabei de dar uma olhada no meu e não vejo nenhum cabeçalho que pareça estar relacionado à libgomp. Eu também tenho o pacote libgomp1 instalado, mas não o libgomp1-dev. Na verdade, parece não haver um pacote libgomp1-dev disponível no repositório da minha distro (Trisquel 7, baseado no Ubuntu). Eu recomendo que você olhe para qual arquivo de cabeçalho ele deveria estar usando e onde você pode se apossar disso.