Rotinas do OpenSSL {d2i,i2d}_$type[_$io]
lêem e gravam o DER (d2i significa DER para interno, i2d significa interno para DER); PEM_{read,write}[_$io]_$type
lê e escreve PEM. Rotinas em que type é [$alg_]PUBKEY
ler e gravar chaves públicas no formulário genérico X.509 SubjectPublicKeyInfo, que geralmente é o preferido (embora haja alternativas). Você tem uma chave privada no formato PEM (não genérica, mas isso não importa) e o programa quer uma chave pública no formato DER genérico. Fazer
openssl ec -in blahkeyfile.pem -out blahpubfile.der -pubout -outform der
(ou nome adequado de sua escolha) e tente usar isso em seu lugar.