Você não usa o caminho completo em ErrorDocument. É relativo a sua raiz de htdocs
se a sua raiz for / var / www / site / public /
ErrorDocument 404 /404.html
Você também pode fazer uma URL completa
ErrorDocument 404 http://domain.com/404.html
EDITAR
Você pode fazer isso para cada vhost então
Alias /404 /full/path/to/404.html
ErrorDocument 404 /404