Não é exatamente uma configuração bonita, mas deve funcionar.
error_page 404 = @missing;
location @missing {
if ($request_filename ~* [gif|jpg|png]$){
rewrite ^ /404.gif;
}
if ($request_filename !~* [gif|jpg|png]$){
rewrite ^ /404.html;
}
}