I ran a dig command to get the ip and it gives me an ip. When I visit this ip however it 404s.
Isso é esperado. O Github não alocou um endereço IP apenas para o seu site - o navegador da web envia um cabeçalho Host:
com cada solicitação para informar ao servidor da web qual site está sendo solicitado. Digitar o endereço IP no navegador faz com que o endereço IP seja enviado, portanto, o servidor não tem idéia de quais dos milhões de sites possíveis você deseja.
Use esse endereço e crie um registro normal. Seu site deve funcionar bem.
O Route 53 possui registros Alias, mas isso só é relevante quando o destino é outro serviço da AWS, como o S3, o CloudFront ou o Elastic Load Balancer.