Sim, essa fórmula existe:
Valor de luminância RGB = 0,3 R + 0,59 G + 0,11 B
Antecedentes
Os olhos humanos não detectam o brilho linearmente com a cor. Basicamente, vemos o verde mais brilhante que o azul. Então, o termo luminância foi inventado, que é o brilho ajustado para indicar apropriadamente o que realmente vemos.