A resposta é simples (mas é mais complicado segui-lo):
você tem que criar um pacote debian do código que você compilou (OpenCV 2.4) e instalar esse pacote. Desta forma, o gerenciador de pacotes sabe que o pacote existe.
Guias sobre como criar um pacote são:
link
Também parece haver uma versão falsa dos itens acima: crie um pacote que pretenda ser o OpenCV 2.4 e instale este pacote. Como fazer isso é explicado aqui