Primeiro, um ponto de terminologia: um gráfico de contorno é um gráfico mostrando as isolinhas (também chamadas de isocontornos) de uma função escalar de duas variáveis. Então você está perguntando como não fazer um gráfico de contorno, mas sim um mapa de cores (ou mapa de calor). Depois, há a questão de como seus dados são apresentados e retificados. Você está certo de que o formato matrix
do gnuplot é apropriado apenas para dados em uma grade regular.
Se o seu arquivo de dados definir cantos de polígonos em coordenadas x, y, z, gostaria de:
set view map
set pm3d interpolate 10,10 corners2color mean
splot "res.gdat" notitle with pm3d