Suponho que você esteja se referindo a VirtualAlloc e amigos . Não há equivalente direto no Linux, tanto quanto sei, mas você pode conseguir o mesmo efeito de várias formas. Se você quiser reservar memória, você pode usar mmap(2) ; para cometer, você precisa escrever para ele; para anulá-lo, você pode usar madvise(2) 's MADV_DONTNEED .
Para implementar páginas de proteção, você pode encontrar mprotect(2) como uma melhor opção, juntamente com um manipulador SIGSEGV . Você também pode observar a proteção contra estouro fornecida pelo seu compilador ( -fstack-protector etc. e as várias opções -fsanitize ).