Como você instalou o liblua? Se eu instalar o pacote liblua50-dev
, pkg-config --cflags lua50
imprimirá o caminho de inclusão correto. A execução de pkg-config --cflags lua52
imprime o caminho de inclusão correto para você? Eu acho que você precisa adicionar o CFLAGS manualmente, já que o lua.vapi in vala não parece saber qual pacote usar para lua com o pkg-config aqui.
Eu não sei exatamente o que você está usando para um sistema de compilação, mas você pode fazer isso manualmente executando o valac da seguinte forma:
valac -X "-I/usr/include/lua52" -C --pkg lua luatest.vala