Você pode fazer isso usando o AppleScript:
set volume with output muted
delay 5
set volume without output muted
osascript permite executar o AppleScript a partir de um shell:
osascript -e "set volume with output muted" -e "delay 5" -e "set volume without output muted"
"5" é o número de segundos de atraso.