Secrets of Network Cartography:
A Comprehensive Guide to nmap
Written by James Messer
É uma boa referência em si mesma.
Está disponível como PDF e referência on-line.
Existem alguns cheetsheets também, SBDTools tem Nmap5 Cheetsheet v1 (pdf), entre outras coisas.
E não se esqueça da tag ' nmap
' aqui e em todos os sites da SE.