Sim! Use
has:nouserlabels
no seu campo de pesquisa. O Google tem uma página de ajuda para isso: link
Você provavelmente verá mensagens marcadas também, consulte a nota na parte inferior.
Messages that have or don't have a label
has:userlabelshas:nouserlabels
Example: has:nouserlabels
Note: Labels are only added to a message, and not an entire conversation.