Você pode tentar assistir a dhcpdump de um servidor linux dhcp de teste para ver se o cliente OSX está oferecendo algo para a opção 77.
Fora isso, você poderia olhar para o networksetup . Uma olhada nas páginas de manual não mostrou nada de útil além do que parece ser uma maneira fácil de definir o que você está fazendo na GUI.
Por último, parece que você pode instalar um cliente dhcp mais robusto, dhcp , com macports e use isso para definir as coisas de maneira mais granular.