Parece ser resolvido na versão 8.0.4 do FreeNAS. (i386 um, x64 parece não funcionar por algum motivo ...)
O problema com a versão mais recente era eu ter um CF de 1GB e a imagem é de 2GB. Eu resolvi a instalação do ISO no CF (usando meu PC).
Agora, o tamanho da memória disponível é suficiente!
real memory = 268435456 (256 MB)
avail memory = 247967744 (236 MB)
Dados do sysctl:
hw.physmem: 255295488
hw.usermem: 247279616
hw.realmem: 268435456
Então o problema é com 7.3