Porque você está dizendo que deseja apenas --check que não gera saída e você também especifica que você deseja que o --pedput classificado vá para um determinado arquivo. Estes são conceitos mutuamente exclusivos, e são aplicados em sort.c (gnu coreutils 8.20) com
if (checkonly)
{
…
if (outfile)
{
static char opts[] = {0, 'o', 0};
opts[0] = checkonly;
incompatible_options (opts);
}