Definição matemática simples é a multiplicação de matrizes.
Aqui está uma explicação com alguns exemplos: link
O RGBA usa matriz 5x5 e o CMYKA usa 6x6, mas a ideia é a mesma.
[ A00 A01 A02 A03 A04 ]
[ A10 A11 A12 A13 A14 ]
[ R' G' B' A' ? ] = [ R G B A 1 ] x [ A20 A21 A22 A23 A24 ]
[ A30 A31 A32 A33 A34 ]
[ A40 A41 A42 A43 A44 ]
é ignorado.
Aqui está a matriz ao vivo para experimentar: link