Eu editei o makefile da seguinte forma:
object = image.o jpeg.o main.o -lGL -lGLU bmp.o edge.o png.o stats.o trans.o -lm raw.o
imtool:$(object)
cc -o imtool $(object) -ljpeg -lpng -lglut
jpeg.o: jpeg.h
raw.o: raw.h
image.o: image.h
main.o: defs.h glx.h
edge.o: edge.h
trans.o: trans.h
png.o: png.h png.c
cc -c png.c -o png.o -g
stats.o : stats.h
bmp.o:
.PHONY : clean
clean:
rm *.o
adicionou -lm -lGL -lGLU
e está funcionando bem agora:)