Com o AWE, você não verá o verdadeiro uso de RAM do SQL Server na lista de processos (devido à maneira como o AWE mapeia a memória). Você precisará entrar no Performance Monitor e dar uma olhada lá (eu esqueço qual contador SQL usar, mas ele estará abaixo de SQLServer:Memory Manager
).