Como você instalou o liblua? Se eu instalar o pacote liblua50-dev , pkg-config --cflags lua50 imprimirá o caminho de inclusão correto. A execução de pkg-config --cflags lua52 imprime o caminho de inclusão correto para você? Eu acho que você precisa adicionar o CFLAGS manualmente, já que o lua.vapi in vala não parece saber qual pacote usar para lua com o pkg-config aqui.
Eu não sei exatamente o que você está usando para um sistema de compilação, mas você pode fazer isso manualmente executando o valac da seguinte forma:
valac -X "-I/usr/include/lua52" -C --pkg lua luatest.vala