Você não pode. Você tem que se ater aos OIDs de sintaxe que ele já entende. Você pode adicionar novos atributos que obedecem a sintaxes existentes e novos objectClasses que usam esses novos atributos, mas é isso.
Ao definir um atributo no OpenLDAP, você deve fornecer um SYNTAX OID para que o OpenLDAP saiba que tipo de string ele pode aceitar para esse atributo.
Como posso criar um novo SYNTAX para o OpenLDAP?
Você não pode. Você tem que se ater aos OIDs de sintaxe que ele já entende. Você pode adicionar novos atributos que obedecem a sintaxes existentes e novos objectClasses que usam esses novos atributos, mas é isso.
Tags syntax openldap attributes