Como todas as respostas parecem não entender a pergunta (até onde eu entendo)], e eu não tenho o representante para comentar, vou postar uma tentativa de resposta / ajuda.
Resumindo: O login do Windows Hello parece usar uma nuvem de ponto infravermelho para obter profundidade 3D do campo / face (maior precisão na identificação da face). Como isso é basicamente o mesmo que o Kinect, sugiro estudar projetos e bibliotecas do Kinect.
Uma vez que não há bibliotecas acabadas para apenas instalar e usar, sugiro pegar um módulo de ID de face existente no Ubuntu, modificá-lo adicionando biblioteca de nuvem de pontos (PCL) ao algoritmo de identificação de faces.
ID do rosto do Ubuntu PAM: Eu tentaria algo mais recente do que o aparentemente abandonado pam-face-authenticate, como este pam-facial-auth, link bifurque-o e modifique os dados de entrada para serem a imagem da nuvem de pontos da webcam de infravermelho.
Ligação em Python PCL à webcam: link
Espero que ajude!