if ! which nginx > /dev/null 2>&1; then
echo "Nginx not installed"
fi
ou
if [ ! -x /usr/sbin/nginx ]; then
echo "Nginx not installed"
fi
ou se você quer ser específico do Debian / Ubuntu:
if ! dpkg -l nginx | egrep 'îi.*nginx' > /dev/null 2>&1; then
echo "Nginx not installed"
fi
se você estiver em toda a brevidade:
! test -x /usr/sbin/nginx && echo "Nginx not installed"