Quando um programa é executado, as páginas de código necessárias são carregadas na memória sob demanda. Isso é transparente: o kernel carrega as páginas quando precisa delas e tenta ser inteligente ao pré-carregar páginas que provavelmente serão necessárias em breve.
O código deve ser descriptografado antes de poder ser executado. Se o código estiver armazenado em um sistema de arquivos criptografado, ele será descriptografado dentro da pilha do driver do sistema de arquivos, assim como qualquer outro dado armazenado em um arquivo.
Não faz sentido criptografar um sistema de arquivos RAM. A chave existe no sistema ao vivo de qualquer maneira (para descriptografar o arquivo). Um sujeito pode acessar os arquivos se e somente se ele puder acessar a chave, então você precisa fazer o controle de acesso na chave. Você pode também cortar o intermediário e controlar o acesso aos arquivos.
O controle de acesso em um sistema ao vivo depende de permissões . A criptografia não está envolvida. Se você não quiser que determinados usuários acessem um determinado arquivo, altere as permissões do arquivo de acordo.
Se alguém tiver acesso físico à máquina, ela terá todas as permissões desejadas. Nenhuma quantidade de criptografia pode mudar isso. A criptografia protege o acesso a dados off-line, que são armazenados separadamente da chave.