Usando o Terminal, você poderá formatar um disco em UDF. Eu uso o seguinte comando para formatar discos Blu-Ray:
newfs_udf -v "Untitled UDF" -r 2.60 /dev/diskX
Você pode querer primeiro descobrir em qual nome de dispositivo seu disco atual está localizado.