Parece que não há uma maneira fácil de fazer isso via AppleScript, mas há um plugin que avisa no caso de um assunto em branco, é Subjectivity . Ele funciona apenas com o Tiger, já que o Leopard e o Mail.app do Snow Leopard o avisa se você deixar o assunto em branco.
Eu encontrei este post no blog ao escrever os plug-ins do Mail, no entanto, não tentei escrever um.