Parece haver boas informações sobre como começar a usar o GStreamer aqui .
Parece sugerir que os pacotes de distribuição são usados para o Ubuntu, em vez de compilar a partir do código-fonte. Para o Ubuntu parece que você vai precisar do pacote libgstreamer-plugins-base1.0-dev e isso pode ser instalado usando:
sudo apt-get install libgstreamer-plugins-base1.0-dev
Isso deve fornecer os arquivos de cabeçalho e as bibliotecas necessárias para você começar a desenvolver.
Espero que ajude.