Logo no ano seguinte, a Grécia conseguiu a filiação à Fifa (em inglês) e, em 1929, realizou sua primeira partida oficial. O resultado – uma derrota para a Itália por 4 a 1 – foi ruim para a seleção grega, que jogou em casa aquela partida, mas um marco na história do esporte no país.
Até 1980, o futebol grego era inexpressivo na Europa, tanto que nunca participara sequer de uma Copa do Mundo nesse período. Contudo, a seleção obteve a classificação para a Eurocopa daquele ano, com sede na Itália. O desempenho foi fraco, com a última colocação no grupo A, que tinha a Alemanha Ocidental, Tchecoslováquia e Holanda.
Quase 15 anos de ostracismo e longe de competições internacionais, a seleção grega só voltou a disputar algo em 1994. Nos Estados Unidos, a Grécia foi à sua primeira Copa do Mundo. Mais uma vez o time decepcionou. Três derrotas – para Argentina, Nigéria e Bulgária – fizeram com que o país ficasse em último lugar no torneio.
A equipe dava a impressão de estar fadada a ser mais uma seleção européia com pouca expressão e uma presa fácil para os adversários. Foi com esse pensamento que os gregos chegaram à Eurocopa de 2004, em Portugal. Os favoritos eram França, Alemanha, Itália e o anfitrião Portugal.
No entanto, essa foi a competição onde as zebras apareceram a cada rodada. Logo de cara, a Grécia ganhou dos portugueses por 2 a 1. A Itália apenas empatou com a Dinamarca e a Áustria segurou o time da Alemanha. Ao final da primeira fase, os germânicos, italianos e espanhóis deram adeus ao torneio precocemente.
Com um esquema defensivo, a Grécia, nas quartas-de-final, eliminou outra favorita: a França. O adversário então seria a República Tcheca, sensação do torneio, com 100% de aproveitamento até aquele momento. Os gregos surpreenderam e ganharam dos tchecos por 1 a 0 na prorrogação.
A final era a revanche que os portugueses queriam. Empurrados pela torcida, o time comandando pelo brasileiro Luiz Felipe Scolari chegou à decisão derrotando Inglaterra e Holanda nas fases anteriores. Mas, ainda privilegiando a defesa, os gregos, com um gol de Charisteas, venceram Portugal e sagraram-se campeões europeus.
Com o título, a Grécia se credenciou a disputar a Copa das Confederações em 2005. Contudo, a atual campeã européia caiu na primeira fase, perdendo para Brasil e Japão, e empatando com o México. Nesse torneio, ganhou o troféu fair play da Fifa, por receber poucos cartões.
Quando todos esperavam nova classificação à Copa do Mundo, que seria disputada no Japão e na Coréia, a Grécia fracassou, parando nas Eliminatórias.