Inteligência artificial na educação: emprego, vantagens, riscos e a necessidade de regulação pedagógica

Inteligência artificial na educação: emprego, vantagens, riscos e a necessidade de regulação pedagógica

Artigo de revisão bibliográfica

Artificial intelligence in education: uses, advantages, risks, and the need for pedagogical regulation

Bibliographic review article

Jordilson Souza^[1]
Antônio Nobre^[2]
Claudio Campos^[3]
Glaucia Costa^[4]

RESUMO

O presente artigo examina, sob perspectiva teórico-analítica, a incorporação de sistemas de inteligência artificial (IA) nos contextos educacionais contemporâneos, com ênfase nas dimensões do emprego tecnológico, nas vantagens pedagógicas identificadas na literatura especializada, nos riscos epistemológicos, éticos e sociais decorrentes dessa incorporação e, sobretudo, na premência de uma regulação pedagógica cri- teriosa. A partir de revisão bibliográfica fundamentada em autores de referência no campo da educação, da tecnologia educacional e da filosofia da ciência, argumenta- se que a adoção acrítica de tecnologias inteligentes nas práticas escolares pode aprofundar desigualdades estruturais e comprometer a autonomia cognitiva dos estudantes. Conclui-se que a regulação pedagógica da IA, fundamentada em princípios éticos, epistemológicos e democráticos, constitui imperativo incontornável para que tais tecnologias cumpram função emancipatória e não meramente instrumental.

Palavras-chave: inteligência artificial; educação; regulação pedagógica; tecnologia educacional; ética na educação.

ABSTRACT

This article examines, from a theoretical-analytical perspective, the incorporation of artificial intelligence (AI) systems in contemporary educational contexts, with emphasis on technological deployment, the pedagogical advantages identified in the specialized literature, the epistemological, ethical and social risks arising from this in- corporation and, above all, the urgency of a careful pedagogical regulation. Based on a bibliographic review grounded in reference authors in the field of education, educational technology and philosophy of science, it is argued that the uncritical adoption of intelligent technologies in school practices may deepen structural inequalities and undermine students' cognitive autonomy. It is concluded that the pedagogical regula - tion of AI, grounded in ethical, epistemological and democratic principles, constitutes an unavoidable imperative for such technologies to fulfil an emancipatory rather than merely instrumental function.

Keywords: artificial intelligence; education; pedagogical regulation; educational technology; ethics in education.

INTRODUÇÃO

A crescente difusão de sistemas baseados em inteligência artificial nas mais diversas esferas da vida social tem imposto, às instituições educacionais, desafios de ordem técnica, pedagógica e ética que transcendem as respostas tradicionais oferecidas pela teoria e pela prática educativas. Trata-se de um fenômeno de escala global, cujos desdobramentos incidem diretamente sobre as formas de produção, transmissão e validação do conhecimento nas sociedades contemporâneas (SELWYN, 2019).

A inteligência artificial, compreendida em sentido amplo como o conjunto de tecnologias computacionais capazes de realizar tarefas que, até recentemente, exigiam exclusivamente cognição humana — entre as quais se destacam o processamento de linguagem natural, o reconhecimento de padrões, a tomada de decisão automatizada e a aprendizagem de máquina —, encontrou nas práticas pedagógicas um campo fértil tanto para aplicações instrumentais quanto para controvérsias epistemológicas de fundo. A literatura especializada tem se dedicado, nesse contexto, a mapear não apenas as possibilidades abertas por essas tecnologias, mas também os riscos que encerram quando desprovidas de mediação pedagógica qualificada (PEDRO et al., 2019).

Desse modo, a análise criteriosa do emprego da IA na educação não pode prescindir de uma perspectiva que articule dimensões técnicas e humanísticas, reconhecendo que toda escolha tecnológica é, simultaneamente, uma escolha política e axiológica (FREIRE, 1996). É nessa tensão constitutiva entre eficiência instrumental e emancipação humana que o presente artigo se insere.

O objetivo central deste trabalho consiste em analisar, de forma sistemática e crítica, as principais formas de emprego da inteligência artificial nos contextos educativos, as vantagens que a literatura atribui a essas aplicações, os riscos pedagógicos, éticos e sociais identificados pela pesquisa acadêmica e, finalmente, os funda - mentos e as condições necessárias para uma regulação pedagógica adequada dessas tecnologias. Para tanto, adota-se metodologia de revisão bibliográfica integrativa, orientada por aportes teóricos provenientes da pedagogia crítica, da filosofia da tecnologia e das ciências da computação aplicadas à educação.

O EMPREGO DA INTELIGÊNCIA ARTIFICIAL NA EDUCAÇÃO: panorama

e modalidades

A introdução de sistemas de inteligência artificial no campo educacional não constitui fenômeno recente, embora sua aceleração e diversificação sejam marcante - mente características do século XXI, particularmente da segunda década dos anos 2000 em diante. As primeiras aplicações remontam aos sistemas tutores inteligentes (STI) desenvolvidos a partir dos anos 1970, que buscavam adaptar o ensino de conteúdos específicos ao ritmo e ao perfil cognitivo de cada estudante (BLOOM, 1984). Todavia, a complexidade e a abrangência das aplicações contemporâneas superam em muito esse modelo inicial.

Na literatura contemporânea, o emprego da IA na educação tem sido sistematizado em diferentes categorias. Holmes et al. (2019) identificam ao menos cinco grandes modalidades: os sistemas de tutoria inteligente, os ambientes de aprendizagem adaptativos, as ferramentas de análise de aprendizagem (learning analytics), os agentes conversacionais (chatbots) e os sistemas de avaliação automática. Cada uma dessas modalidades apoia-se em arquiteturas computacionais específicas e produz efeitos pedagógicos distintos.

Os sistemas de tutoria inteligente operam mediante modelos computacionais do domínio do conhecimento, do estudante e das estratégias pedagógicas mais adequadas a cada perfil de aprendiz. Já os ambientes adaptativos recorrem a algoritmos de aprendizagem de máquina para reorganizar, em tempo real, a sequência e a dificuldade dos conteúdos apresentados ao estudante, em função de seu desempenho cu - mulativo. A análise de aprendizagem, por sua vez, mobiliza técnicas de mineração de dados educacionais para produzir diagnósticos e prognósticos sobre trajetórias individuais e coletivas de aprendizagem (SIEMENS; LONG, 2011).

No contexto brasileiro, o emprego dessas tecnologias tem se intensificado em razão tanto de políticas públicas de inovação educacional quanto da expansão do mercado de edtechs — empresas privadas que desenvolvem soluções tecnológicas para o setor educacional. Contudo, como assinala Ramos (2020), a adoção de tais soluções frequentemente precede a reflexão pedagógica sobre seus efeitos, instaurando uma lógica de mercado no interior das práticas escolares que merece exame cuidadoso.

A disseminação de modelos de linguagem de grande escala, como o GPT-4 e sistemas similares, abriu novo capítulo nessa trajetória. Esses modelos, capazes de gerar textos, resolver problemas, explicar conceitos e simular diálogos pedagógicos com elevado grau de sofisticação, passaram a ser utilizados tanto por estudantes quanto por docentes em contextos formais e informais de aprendizagem, desafiando fronteiras estabelecidas entre autoria, plágio, criatividade e processo de aprendizagem (BENDER et al., 2021). A velocidade com que essas ferramentas se difundiram superou a capacidade das instituições de construir respostas pedagógicas e normativas adequadas, evidenciando uma lacuna regulatória de considerável magnitude.

VANTAGENS PEDAGÓGICAS DA INTELIGÊNCIA ARTIFICIAL: contribuições e potencialidades

O debate em torno das vantagens da inteligência artificial na educação tem sido marcado por entusiasmo considerável, tanto na literatura acadêmica quanto nos documentos de política educacional produzidos por organismos internacionais como a UNESCO e a OCDE. Sem desconsiderar os riscos que serão examinados na seção seguinte, importa reconhecer que certas contribuições dessas tecnologias são empiricamente documentadas e pedagogicamente relevantes.

A personalização da aprendizagem constitui, sem dúvida, a vantagem mais amplamente referenciada na literatura. A capacidade dos sistemas adaptativos de ajustar conteúdos, ritmos e metodologias ao perfil individual de cada aprendiz representa uma resposta tecnológica a um problema pedagógico historicamente irresolúvel nas configurações tradicionais de ensino em massa: o atendimento às diferenças individuais em turmas heterogêneas (BLOOM, 1984). Estudos realizados com plataformas como o Khan Academy e o Duolingo demonstram ganhos de aprendizagem mensuráveis em grupos que utilizam recursos adaptativos em comparação com grupos que seguem percursos padronizados (VANLEHN, 2011).

A disponibilidade e a acessibilidade constituem outra dimensão relevante. Sistemas de IA podem oferecer suporte pedagógico em contextos geográficos e socioeconômicos onde a presença de professores qualificados é escassa ou inexistente, democratizando, ao menos potencialmente, o acesso a experiências de aprendizagem de qualidade. Nesse sentido, a UNESCO (2021) sublinha que as tecnologias de IA podem contribuir para a realização do quarto Objetivo de Desenvolvimento Sustentável

— educação de qualidade para todos — desde que acompanhadas de infraestrutura adequada e de políticas equitativas de acesso.

O feedback imediato e contínuo, possibilitado por sistemas automatizados de avaliação, representa igualmente uma vantagem pedagógica de primeira ordem. A pesquisa em ciências cognitivas indica que o retorno imediato sobre o desempenho potencializa significativamente a consolidação da aprendizagem, reduzindo o intervalo entre erro, identificação e correção (HATTIE; TIMPERLEY, 2007). Sistemas de IA são capazes de oferecer esse feedback de modo escalável e personalizado, algo impossível de ser alcançado por um professor que atende dezenas de estudantes simultaneamente.

Merece destaque também o potencial da IA para apoiar a prática docente. Ferramentas de análise de aprendizagem permitem que professores identifiquem padrões de dificuldade, antecipem trajetórias de risco e orientem intervenções pedagógicas com maior precisão diagnóstica. Nesse sentido, como propõe Luckin et al. (2016), a IA não deve ser concebida como substituta do professor, mas como dispositivo de ampliação da inteligência pedagógica do docente — uma perspectiva que reposiciona o debate sobre automação e trabalho docente em termos mais produtivos.

O emprego de IA em contextos de educação especial e inclusiva tem igualmente revelado resultados promissores. Sistemas de reconhecimento de fala, síntese de texto, tradução de língua de sinais e adaptação de materiais a diferentes perfis de necessidades específicas ampliam as possibilidades de participação de estudantes historicamente excluídos dos sistemas convencionais de ensino. Tais aplicações evidenciam que, quando orientadas por princípios inclusivos, as tecnologias inteligentes podem desempenhar papel substantivo na construção de ambientes educacionais mais equitativos e democráticos.

RISCOS PEDAGÓGICOS, ÉTICOS E SOCIAIS DA INTELIGÊNCIA ARTIFICIAL NA EDUCAÇÃO

Se as potencialidades da IA na educação são consideráveis, os riscos a ela associados não são menos significativos e têm recebido atenção crescente na literatura especializada. A análise desses riscos é indispensável para que a adoção dessas tecnologias não se processe de forma ingênua ou acriticamente entusiasta.

O primeiro e talvez mais estrutural dos riscos diz respeito à reprodução e ao aprofundamento de desigualdades sociais. Os algoritmos de aprendizagem de máquina são treinados sobre conjuntos de dados que refletem as assimetrias e os preconceitos das sociedades que os produzem. Quando esses vieses são incorporados aos sistemas educacionais, há o risco real de que estudantes de grupos historicamente marginalizados sejam sistematicamente subavaliados ou encaminhados para trajetórias de menor prestígio e menor expectativa acadêmica (O'NEIL, 2016). O racismo algorítmico e o sexismo computacional não são distopias futuristas, mas fenômenos documentados em múltiplos estudos empíricos.

A erosão da autonomia cognitiva dos estudantes constitui outro risco de primeira magnitude. A dependência de sistemas que fornecem respostas prontas, percursos predefinidos e avaliações automatizadas pode comprometer o desenvolvimento de capacidades metacognitivas fundamentais, como a autorregulação da aprendizagem, a tolerância à ambiguidade e a disposição para o pensamento divergente. Há evidências de que o uso intensivo de ferramentas de geração de texto por estudantes pode inibir o desenvolvimento da escrita reflexiva e do raciocínio argumentativo (BENDER et al., 2021).

Nessa direção, Biesta (2017, p. 22) alerta que:

a educação não se reduz a um problema de eficiência ou de otimização de resultados mensuráveis; ela é, fundamentalmente, uma questão de julgamento sobre o que é educacionalmente desejável e sobre quais formas de vida humana merecem ser cultivadas. Delegar esse julgamento a sistemas algorítmicos significa abdicar de uma responsabilidade que é, por natureza, ineliminavelmente humana.

Esse argumento ressoa com a crítica de Freire (1996) à concepção bancária da educação: ao automatizar a transmissão de conteúdos e a avaliação de desempenho, corre-se o risco de radicalizar uma lógica depositária que historicamente negou ao estudante o estatuto de sujeito ativo da própria formação.

A questão da privacidade e da vigilância digital merece atenção particular. Sistemas de IA educacional coletam quantidades massivas de dados sobre o comportamento, o desempenho, as preferências e até as emoções dos estudantes. O uso comercial e o armazenamento inadequado desses dados constituem riscos concretos à privacidade de crianças e adolescentes, especialmente em contextos regulatórios frá- geis (WILLIAMSON, 2017). A datificação da aprendizagem — a transformação de experiências educativas em dados mensuráveis e comercializáveis — representa uma colonização do espaço escolar por lógicas mercadológicas que conflitam com os valores de formação integral. O deskilling docente — o esvaziamento progressivo das competências profissi-

onais dos professores pela transferência de decisões pedagógicas a sistemas automatizados

— é outro risco frequentemente apontado pela literatura crítica. Quando o professor é reduzido ao papel de executor de recomendações algorítmicas, perde-se a dimensão relacional, ética e criativa da prática pedagógica, que não é redutível a protocolos computacionais (SELWYN, 2019). A profissionalidade docente, nesse sentido, é colocada sob tensão por dinâmicas de automação que tendem a desqualificar o trabalho intelectual do educador.

A concentração de poder nos atores que desenvolvem e controlam as tecnologias de IA representa, por fim, risco de ordem geopolítica e democrática. A dependência de plataformas desenvolvidas por um pequeno número de corporações tecnológicas — predominantemente norte-americanas e chinesas — implica que os valores, as concepções de aprendizagem e os interesses econômicos embutidos nesses sistemas moldam práticas educativas em escala global, sem que os sistemas nacionais de educação disponham de real capacidade de supervisão ou de alternativa tecnológica soberana.

A NECESSIDADE DE REGULAÇÃO PEDAGÓGICA

Diante do panorama descrito nas seções anteriores, a questão da regulação pedagógica da inteligência artificial na educação emerge como problema central, tanto do ponto de vista teórico quanto do ponto de vista das políticas públicas. Entende-se por regulação pedagógica o conjunto articulado de orientações normativas, práticas formativas e dispositivos institucionais destinados a orientar o uso educacional das tecnologias de IA de modo a potencializar suas contribuições e mitigar seus riscos, tendo como horizonte ético a formação integral e emancipatória dos sujeitos.

A regulação pedagógica não se confunde com proibição ou com hostilidade tecnológica. Trata-se, ao contrário, de uma aposta na possibilidade de apropriar-se criticamente das tecnologias disponíveis, submetendo-as a critérios pedagógicos, éticos e democráticos que precedem e transcendem as lógicas do mercado e da eficiência técnica. Como propõe Feenberg (2002), a tecnologia não é neutra: ela incorpora valores e relações de poder que podem e devem ser objeto de disputa e reconfiguração pelos sujeitos que a utilizam.

No plano internacional, diferentes organismos têm procurado estabelecer marcos normativos para o uso da IA na educação. A UNESCO (2021) publicou a Recomendação sobre Ética da Inteligência Artificial, que inclui princípios aplicáveis ao campo educacional, entre os quais se destacam a centralidade dos direitos humanos, a transparência dos algoritmos, a responsabilidade dos desenvolvedores e a proteção de grupos vulneráveis. O documento reconhece que os estados têm responsabilidade inalienável na regulação desses sistemas e que a soberania pedagógica não pode ser delegada a atores privados.

No âmbito da formação docente, a regulação pedagógica exige que os professores sejam capacitados não apenas para operar ferramentas de IA, mas para avaliá- las criticamente, questioná-las epistemologicamente e recusá-las quando conflitarem com os fins educativos que defendem. Nesse sentido, Mishra e Koehler (2006) argumentam que o conhecimento tecnológico do docente deve estar articulado ao conhecimento pedagógico e ao conhecimento do conteúdo, formando o que denominam TPACK — Technological Pedagogical Content Knowledge. Esse modelo teórico sugere que a competência docente frente às tecnologias não é meramente técnica, mas exige integração reflexiva entre diferentes domínios do saber profissional.

A regulação pedagógica implica, ainda, a construção de currículos que desenvolvam nos estudantes o pensamento crítico sobre as tecnologias que os cercam — o que a literatura tem designado como letramento em IA (AI literacy). Longpre et al. (2023) e outros pesquisadores argumentam que compreender como os sistemas de IA funcionam, quais são seus limites, vieses e implicações éticas deve integrar a formação básica de crianças e jovens em uma sociedade crescentemente mediada por algoritmos. Essa não é uma demanda curricular de segunda ordem, mas condição de exercício qualificado da cidadania no século XXI.

No plano institucional, a regulação pedagógica requer a criação de instâncias de governança democrática nos sistemas educacionais — comitês de ética, conselhos de supervisão tecnológica, mecanismos de auditoria algorítmica — capazes de avaliar, de forma continuada, os impactos das tecnologias de IA nas práticas escolares. Tais instâncias devem incluir não apenas especialistas técnicos, mas também educadores, estudantes, famílias e comunidades, assegurando que as decisões sobre adoção tecnológica sejam informadas por uma pluralidade de perspectivas e interesses.

A regulação pedagógica efetiva da IA na educação requer, em síntese, a articulação entre marcos legais nacionais e internacionais, formação docente crítica e continuada, desenvolvimento de letramentos em IA para estudantes, governança democrática das tecnologias educacionais e uma concepção de educação que resista à redução da formação humana a métricas de desempenho e eficiência algorítmica. Sem essa articulação, o risco de que a inteligência artificial na escola se converta em vetor de controle, exclusão e esvaziamento do potencial emancipatório da educação permanece considerável.

CONSIDERAÇÕES FINAIS

A análise empreendida ao longo deste artigo permite afirmar que a relação entre inteligência artificial e educação é, por natureza, ambivalente e politicamente disputada. Não se trata de uma tecnologia intrinsecamente libertadora ou intrinsecamente opressora, mas de um conjunto de dispositivos que pode ser orientado em direções radicalmente distintas, a depender das concepções pedagógicas, dos interesses sociais e dos marcos regulatórios que governam sua adoção.

As vantagens identificadas — personalização da aprendizagem, democratização do acesso, feedback contínuo, apoio à prática docente e inclusão de estudantes com necessidades especiais — são reais e pedagogicamente relevantes. Contudo, essas potencialidades não se realizam de forma automática ou universal: dependem de condições contextuais, de escolhas políticas e de mediações pedagógicas qualificadas que não podem ser substituídas por algoritmos, por mais sofisticados que sejam.

Os riscos identificados — reprodução de desigualdades, erosão da autonomia cognitiva, vigilância digital, esvaziamento da profissionalidade docente e concentração de poder em corporações tecnológicas — exigem respostas que vão além da regulação técnica. Eles demandam uma reafirmação vigorosa dos valores que devem orientar a educação em sociedades democráticas: a formação integral dos sujeitos, a equidade, a liberdade de pensamento e a participação ativa na construção do bem comum.

A regulação pedagógica da IA, nesse contexto, não é um obstáculo ao progresso tecnológico, mas sua condição de sentido. Tecnologias que não estejam submetidas a fins humanos substantivos — e não apenas a critérios de eficiência e lucratividade — são, no mínimo, pedagogicamente problemáticas e, no limite, socialmente perigosas. O desafio que se coloca às instituições educacionais, aos formuladores de políticas e à comunidade acadêmica é o de construir, coletiva e democraticamente, os marcos que permitam que a inteligência artificial contribua genuinamente para uma educação mais justa, mais crítica e mais humanizada.

REFERÊNCIAS

BENDER, Emily M. et al. On the dangers of stochastic parrots: can language models be too big? In: Proceedings of the 2021 ACM Conference on Fairness, Accountability, and Transparency. New York: ACM, 2021. p. 610-623.

BIESTA, Gert. The Rediscovery of Teaching. New York: Routledge, 2017.

BLOOM, Benjamin S. The 2 sigma problem: the search for methods of group instruction as effective as one-to-one tutoring. Educational Researcher, Washing- ton, v. 13, n. 6, p. 4-16, 1984.

FEENBERG, Andrew. Transforming Technology: a critical theory revisited.

New York: Oxford University Press, 2002.

FREIRE, Paulo. Pedagogia da Autonomia: saberes necessários à prática educativa.

São Paulo: Paz e Terra, 1996.

HATTIE, John; TIMPERLEY, Helen. The power of feedback. Review of Educational Research, Washington, v. 77, n. 1, p. 81-112, 2007.

HOLMES, Wayne et al. Artificial Intelligence in Education: promises and im- plications for teaching and learning. Boulder: Creative Education Foundation, 2019.

LONGPRE, Shayne et al. The Data Provenance Initiative: a large scale audit of dataset licensing and attribution in AI training. arXiv, 2023. Disponível em: https://arxiv.org/abs/2310.16787. Acesso em: 10 fev. 2025.

LUCKIN, Rose et al. Intelligence Unleashed: an argument for AI in education.

London: Pearson Education, 2016.

MISHRA, Punya; KOEHLER, Matthew J. Technological pedagogical content knowledge: a framework for teacher knowledge. Teachers College Record, New York,

v. 108, n. 6, p. 1017-1054, 2006.

O'NEIL, Cathy. Weapons of Math Destruction: how big data increases inequality and threatens democracy. New York: Crown Publishers, 2016.

PEDRO, Francesc et al. Artificial Intelligence in Education: challenges and opportunities for sustainable development. Paris: UNESCO, 2019.

RAMOS, Daniela Karine. Tecnologias na educação: reflexões sobre o uso da inteligência artificial. Educação em Revista, Belo Horizonte, v. 36, p. 1-24, 2020.

SELWYN, Neil. Should Robots Replace Teachers? AI and the future of edu- cation.

Cambridge: Polity Press, 2019.

SIEMENS, George; LONG, Phil. Penetrating the fog: analytics in learning and education.

EDUCAUSE Review, Boulder, v. 46, n. 5, p. 30-40, 2011.

UNESCO. Recommendation on the Ethics of Artificial Intelligence. Paris: UNESCO, 2021. Disponível em:

https://unesdoc.unesco.org/ark:/48223/pf0000381137. Acesso em: 12 fev. 2025.

VANLEHN, Kurt. The relative effectiveness of human tutoring, intelligent tuto- ring systems, and other tutoring systems. Educational Psychologist, Philadelphia, v. 46, n. 4, p. 197-221, 2011.

WILLIAMSON, Ben. Big Data in Education: the digital future of learning, policy and practice. London: SAGE Publications, 2017.

1. Licenciado em Biologia e Química - UFAM. Pós-graduado em educação com ênfase nos ensinos fundamentais II e médio - UNOPAR. jordilson.bio@gmail.com ↑

2. Licenciatura em Matemática-UNIVERSIDADE VALE DO ACARAU-AVA. Pós-graduado em ensino da matemática com habilitação em física-FETREMES - duartenobrea@gmail.com ↑

3. Licenciado em Matemática – UNIVERSIDADE DE UBERABA. Pós-graduado em metodologia do ensino de matemática- FAMART. - claudiorochaapk@gmail.com ↑

4. Licenciada em Biologia e Química - UFAM. Pós-graduada em docência para educação profissional e tecnológica- IFAM. Pós- graduada em educação com ênfase nos ensinos fundamental II e médio - UNOPAR. - glauufam@gmail.com ↑