Eu fiz um gráfico de comparação de três linhas selecionando todos os dados como um bloco, ou seja, o eixo X e os três pontos de dados do eixo Y. Eu então usei o mesmo Insert > Linha > Linha 2D.
O gráfico apareceu como desejado.
Eu não sei se isso fez diferença, mas eu tinha os dados organizados em colunas com títulos, ou seja,
Column A - X axis
Column B - Data set 1
Column C - Data set 2
Column D - Data set 3