Eu tropecei nessa questão hoje. Então aproveitei para pegar o código e descobrir isso. Parece que o meu comentário acima está correto. Use o override_dh_auto_build-indep
target para criar os documentos.
Esse diff foi capaz de produzir um pacote doc com o doxygen gerar documentos construídos em um pbuilder de raridade.
=== added file 'debian/nitroshare-doc.install'
--- debian/nitroshare-doc.install 1970-01-01 00:00:00 +0000
+++ debian/nitroshare-doc.install 2013-07-01 18:29:50 +0000
@@ -0,0 +1,1 @@
+doc/* usr/share/doc/nitroshare-doc/
=== modified file 'debian/rules'
--- debian/rules 2013-07-01 18:07:18 +0000
+++ debian/rules 2013-07-01 18:09:03 +0000
@@ -7,3 +7,6 @@
%:
dh $@
+
+override_dh_auto_build-indep:
+ doxygen
Embora isso não responda à sua pergunta, isso resolve o problema ...