Valores negativos podem aparecer se o arquivo de página cresceu em algum momento no passado e, desde então, diminuiu. O SQL Server usa muita memória e muitas páginas, portanto, esse tipo de comportamento é bastante comum para o SQL Server.
Editar: Isso também pode ser por causa do tamanho do Int32 ... nesse caso, use a propriedade de 64 bits fornecida:
ps sqlserver | select WorkingSet64
ou
ps sqlserver | select PagedMemorySize64
A maioria das propriedades de memória tem versões correspondentes de 64 bits por esse motivo.