A Inteligência Artificial (IA) tem revolucionado diversos setores, e a educação não é exceção. Desde a personalização do aprendizado até a automação de tarefas administrativas, a IA oferece inúmeras oportunidades para melhorar a eficiência e a eficácia do ensino. No entanto, a aplicação da IA na Educação também levanta importantes questões sobre a análise criteriosa dos dados obtidos e as implicações éticas envolvidas, o que resulta na necessidade de os educadores construírem novas práticas, mesmo quando muitos não recebem a formação adequada para tal. Com isso há um impasse entre a velocidade em que os estudantes recebem essas novas tecnologias e a preparação das instituições escolares e seus profissionais em recebê-las e adequarem as suas práticas. Ademais, mesmo com os benefícios da disponibilidade dos recursos de IA, há a preocupação se os educadores e os estudantes estão sendo capazes de construir uma visão crítica com o uso das IAs. Nesse contexto a curadoria de conteúdo apresenta-se como uma importante atividade na rotina dos educadores e uma necessidade na formação dos estudantes para que se diminua a utilização indiscriminada de IA, e se permita a análise de criteriosa dos dados e o atendimento às preocupações éticas do uso da IA na Educação. Com isso, a partir de uma pesquisa bibliográfica, o presente artigo apresenta a curadoria de conteúdo como importante competência na formação dos educadores e estudantes para que as vantagens do uso da IA na Educação sejam utilizadas de forma ética e que os insights obtidos possam ser traduzidos em ações concretas e benéficas para o ensino.