O padrão clássico para isso é de POSIX, Sintaxe do Argumento de Utilidade (graças a @ illuminÉ para o link atualizado). Descreve a sintaxe a ser usada nas páginas man, por exemplo
utility_name[-a][-b][-c option_argument]
[-d|-e][-f[option_argument]][operand...]
Sendo clássico, recomenda usar opções de caractere único, com -W
recomendado para uso por fornecedores, e é assim que opções de vários caracteres são acomodadas (veja, por exemplo, Resumo das opções do gcc ).
O software GNU introduziu opções de vários caracteres que começam com --
. Algumas diretrizes do GNU para formatação de páginas man com essas opções podem ser encontradas na referência help2man .