Eu descobri o que estava errado. O Apache, por algum motivo, foi configurado para usar apenas o SSL3. Adicionar TLS v1 (e v1.1, v1.2) fez tudo funcionar. O TLS é necessário para o SPDY funcionar. Eu mudei minha configuração do apache para ter
SSLProtocol +SSLv3 +TLSv1 +TLSv1.1 +TLSv1.2
E isso funciona como um encanto.
Melhor ainda, deixe de fora o SSLv3, como é conhecido por ser inseguro:
SSLProtocol +TLSv1 +TLSv1.1 +TLSv1.2