Isso ocorre porque o local é /browse.php , não o que você especificou.
Existem várias maneiras de fazer isso. Por exemplo, algo assim deveria ser feito:
location = /browse.php {
if ($query_string ~ ^u=http) {
return 410;
}
}
P.S .: ou use ~* em vez de ~ se u=http não diferenciar maiúsculas de minúsculas.