Em suma
Eu apostaria que você não está usando o Unix Sockets na sua configuração do php-fpm. Isso ocorre porque, por padrão, o php-fpm está usando portas TCP.
Veja mais de perto sua configuração
Você decidiu usar o Unix Sockets:
FastCgiExternalServer /usr/lib/cgi-bin/php5-fcgi -socket /var/run/php5-fpm.sock -pass-header Authorization
Portanto, você precisa ter certeza de que o php-fpm está realmente rodando nesses soquetes unix.
Caso 1 : você está realmente usando Sockets Unix
$ sudo lsof -U | grep php
// will show you
php-fpm 17330 root 5u unix 0xf4f64800 0t0 7045381 socket
php-fpm 17330 root 7u unix 0xf545f080 0t0 7045382 socket
php-fpm 17330 root 8u unix 0xf55f3a80 0t0 7045383 /var/run/php5-fpm.sock
php-fpm 17331 nobody 0u unix 0xf55f3a80 0t0 7045383 /var/run/php5-fpm.sock
php-fpm 17331 nobody 0u unix 0xf55f3a80 0t0 7045383 /var/run/php5-fpm.sock
$sudo lsof -i | grep php
// should show nothing
Caso 2 : Você não está usando Unix Sockets, mas portas TCP
$ sudo lsof -U | grep php
// will show you
php-fpm 17330 root 5u unix 0xf4f64800 0t0 7045381 socket
php-fpm 17330 root 7u unix 0xf545f080 0t0 7045382 socket
$sudo lsof -i | grep php
php-fpm 13387 root 7u IPv4 202656 0t0 TCP localhost:cslistener (LISTEN)
php-fpm 13388 nobody 0u IPv4 202656 0t0 TCP localhost:cslistener (LISTEN)
php-fpm 13389 nobody 0u IPv4 202656 0t0 TCP localhost:cslistener (LISTEN)
É muito provável que você receba essa mensagem de erro porque, na verdade, você não está usando soquetes unix com php-fpm. O motivo é que o php-fpm é configurado por padrão para usar portas tcp.
Abra o php-fpm.conf e mude para sockets unix:
sudo nano /etc/php5/fpm/pool.d/www.conf
# We don't want to use TCP ports
#listen = 127.0.0.1:9000
# We want to use Unix Sockets
listen = /var/run/php5-fpm.sock
Agora, você terá problemas de permissão no mesmo arquivo:
// modify user and group and use same user as apache (here 'nobody')
user = nobody
group = nobody
// Uncomment those lines and use same user as apache (here 'nobody')
listen.owner = nobody
listen.group = nobody
listen.mode = 0666
A configuração do PHP-FPM agora está usando o Unix Sockets, e o Apache poderá se conectar a ele.