A única maneira de fazer isso é fazer com que o arquivo extraia os dados de uma forma que o 7-Zip não possa ler. Se o 7-Zip puder ler os dados, o 7-Zip poderá mostrar o conteúdo, porque é isso que o 7-Zip faz.
Considere fazer vários arquivos. Uma maneira pela qual você provavelmente pode alcançar seus objetivos é colocar um arquivo dentro de um arquivo. Torne o arquivo interno perfeitamente acessível pelo 7-Zip, mas isso não importará, porque ninguém poderá ver o arquivo interno até que primeiro abra seu arquivo externo.
O arquivo interno pode ser criado com o 7-Zip e fornecer recursos desejáveis, como compactação e acompanhamento de vários arquivos. Ao usar um formato padrão, você não precisa aprender como implementar todas as peculiaridades de um formato padrão, mas obtém os benefícios fornecidos pelo suporte comum a esse formato.
O arquivo externo pode ter algum formato personalizado. Se você é um programador, pode facilmente criar um formato de arquivo personalizado. Talvez o seu formato simplesmente inverta a cada 5 bits, o que efetivamente destruiria a capacidade do 7-Zip de entender o arquivo. Então, quando alguém executa o extrator personalizado que você cria, você vira a cada 5 bits e executa o arquivo resultante (que é o executável do 7-Zip). Seu extrator personalizado também pode ter uma GUI e fazer o que você estiver procurando.