Você já olhou para Alpine ? A edição padrão (que não inclui o OpenSSL, mas permite que seja instalada trivialmente com apk add openssl ) é aproximadamente 110MB para x86 de 64 bits, e a edição estendida tem cerca de 300MB (que inclui o OpenSSL de acordo com a lista de pacotes < href="https://github.com/alpinelinux/alpine-iso/blob/master/alpine-extended.packages"> aqui ). SE você está procurando apenas um sistema básico com um estado conhecido, o Alpine é provavelmente uma das suas melhores opções pré-construídas.
Se você estiver disposto a fazer um pouco mais de trabalho, não será difícil reunir algo com Buildroot . Eu realmente usei isso para coisas semelhantes, e é muito fácil conseguir um sistema básico que ocupa menos de 50MB.
Uma palavra de cautela, tenha cuidado ao usar esse sistema para uma CA. O estado de inicialização conhecido e verificado é bom, mas você provavelmente ficará com falta de entropia pelo menos inicialmente, a menos que você esteja executando um processador Intel recente (a AMD ainda não possui RDRAND ou RDSEED) ou injetar entropia manualmente.