Eu tive o mesmo problema ao atualizar o openssl de 0.9.8zb para 1.0.1i.
$/tmp/src/openssl-1.0.1i/ ./config --prefix=/usr/local/openssl -fPIC
$/tmp/src/openssl-1.0.1i/ make test
$/tmp/src/openssl-1.0.1i/ sudo make install
$/tmp/src/httpd-2.2.27/ ./config --enable-so --enable-ssl=shared --with-ssl=/usr/local/openssl
...
$configure: error: ... Error, SSL/TLS libraries were missing or unusable
Nenhuma das soluções com ambiente de configuração consertaria a mensagem de erro que recebi.
Minha solução foi:
$/tmp/src/openssl-1.0.1i/ ./config --prefix=/usr/local/openssl-1.0.1 -shared -fPIC
$/tmp/src/openssl-1.0.1i/ make clean
$/tmp/src/openssl-1.0.1i/ make
$/tmp/src/openssl-1.0.1i/ make test
$/tmp/src/openssl-1.0.1i/ sudo make install
$sudo /sbin/ldconfig -v /usr/local/openssl-1.0.1/lib
$/tmp/src/httpd-2.2.27/ make clean && make distclean
$/tmp/src/httpd-2.2.27/ ./configure --enable-so --enable-ssl=shared --with-ssl=/usr/local/openssl-1.0.1
$/tmp/src/httpd-2.2.27/ make
$/tmp/src/httpd-2.2.27/ sudo make install
O problema foi corrigido pelo valor -shared na configuração openssl. Agora me deparo com outro problema dizendo que um método sslv2 não está acessível. Mas isso não está relacionado a esse problema, e eu ainda não tenho uma resposta para isso.
Vou continuar a procurar respostas sobre o problema do sslv2 e publicá-lo no tópico relevante do stackexchange quando tiver resolvido o problema.