É possível converter sua chave pública ssh para o formato PEM (que 'openssl rsautl' pode lê-la):
Exemplo:
ssh-keygen -f ~/.ssh/id_rsa.pub -e -m PKCS8 > id_rsa.pem.pub
Assumindo 'myMessage.txt' é a sua mensagem que deve ser criptografada por chave pública.
Em seguida, basta criptografar sua mensagem com openssl rsautl e sua chave pública PEM convertida, como faria normalmente:
openssl rsautl -encrypt -pubin -inkey id_rsa.pem.pub -ssl -in myMessage.txt -out myEncryptedMessage.txt
O resultado é sua mensagem criptografada em 'myEncryptedMessage.txt'
Para testar seu trabalho para descriptografar a chave privada com Alice:
openssl rsautl -decrypt -inkey ~/.ssh/id_rsa -in myEncryptedMessage.txt -out myDecryptedMessage.txt