Seu módulo é excepcionalmente pequeno e inseguro para RSA. Mas eu acho que você sabe disso!
O módulo em decimal é 305512047893009. Em hexadecimal que é 0115DC91160DA11.
Esse é um número com exatamente 7 bytes de comprimento. Você passou o sinalizador "-raw", o que significa que você não está usando nenhum esquema de preenchimento padrão. Isso significa que você é responsável por garantir que a mensagem de entrada esteja formatada corretamente para a criptografia RSA. Na prática, isso significa que sua mensagem de entrada também deve ter exatamente 7 bytes de comprimento e menor em valor que o módulo. Você precisará criar um arquivo binário e usá-lo como entrada.
Usando um editor hexadecimal eu criei um com os bytes: 01146161616161 e salvei isso em um arquivo "message.plain", e então usei o mesmo comando que você, mas com "-in message.plain" adicionado:
$ openssl rsautl -encrypt -pubin -inkey pkey.pem -raw -in message.plain -out message.encrypted
Isso criptografou a mensagem com sucesso.
Nota: Está tudo bem como exercício. Para qualquer trabalho real, você não deve inventar seu próprio esquema de preenchimento. Use um dos existentes.