O kernel invoca o comando declarado em core_pattern do diretório atual do processo. Esta é uma invocação direta do kernel, portanto, não há pesquisa PATH. Portanto, core_app deve ser um arquivo executável no diretório atual do processo.
Para invocar um determinado executável core_app , independentemente do diretório atual do processo, use o caminho completo para core_app , por exemplo,
echo '|/usr/local/sbin/core_app' >/proc/sys/kernel/core_pattern