Os processos x86 com o conjunto de bits LargeAddressAware (como sqlservr.exe) obtêm um VAS completo de 4 GB. A ativação do AWE (nas edições OS e SQL que o suportam) permite que a instância do SQL Server mapeie páginas extras (até 64 GB) para dentro e para fora de seu VAS e use-as para o buffer pool.
Dito isto, o x86 é um beco sem saída e você deve alternar para uma instância x64 o mais rápido possível.