O que precisamos saber sobre IAs?
Matriz de competências de IA lançada pela Unesco indica a necessidade desse letramento para todos os cidadãos
(Texto publicado em 28/11/2024 como parte da série de artigos do EducaMídia na Folha de SP que busca trazer conceitos de educação midiática para professores de educação básica.)
No início era o verbo: em novembro de 2022, o lançamento do ChatGPT inaugurou o nosso encantamento com as IAs generativas, aplicações que geram texto a partir de comandos em linguagem natural. Em dois meses a plataforma já tinha alcançado a marca de 100 milhões de usuários — a adoção mais rápida da história. Outras aplicações se seguiram, capazes de gerar não só textos estruturalmente corretos como imagens, videos e áudios realistas e convincentes.
Hoje, dois anos depois, as IAs generativas estão integradas em muitos dos aplicativos com os quais aprendemos ou trabalhamos, e seu avanço no mercado de tecnologias educacionais é considerável — como apoio ao professor ou em tutores personalizados, gerando aulas, testes e imagens para materiais didáticos. Já é bastante significativa, também, a penetração de imagens ou textos gerados por IA em bancos de imagens, sites noticiosos e redes sociais.
Esse avanço não é sem riscos. Nesse estágio do seu desenvolvimento, os aplicativos que geram imagens são notórios por reproduzir vieses de todos os tipos, gerando conteúdos racistas e misóginos, ou perpetuando estereótipos. Os textos gerados são tão bem escritos que somos induzidos a acreditar neles, mesmo sem poder conhecer as fontes — e confiamos mais ainda nos chatbots que apresentam referências, embora muitas vezes essas sejam inadequadas ou até inventadas. Além da ampliação de conteúdos imprecisos ou medíocres em circulação, estamos vendo também o aumento do uso malicioso dessas IAs, com a produção de deep fakes feitos para manipular opiniões ou destruir reputações. Operando de forma opaca, essas tecnologias atuam sobre dinâmicas sociais e impactam nosso direito à informação.
Nesse cenário, o letramento para o uso adequado e ético dessas tecnologias é fundamental. Mas o que exatamente devemos ensinar? Quais competências serão necessárias para todo e qualquer cidadão de forma a garantir sua autonomia frente às decisões de máquina, e sua capacidade de zelar pelo bem comum? Em resposta a essas perguntas, a Unesco lançou em outubro as Matrizes de Competências de IA para Estudantes e para Professores, documentos que não só norteiam a construção de currículos e formações, como o fazem a partir de uma premissa flexibilizadora: a de que há um nível básico de conhecimento e agência, essencial a todos, e que estudos mais aprofundados, para aqueles que demonstrarem aptidão ou interesse, serão capazes de fundamentar uma prática criativa que mobilize novos usos dessas tecnologias de forma centrada em valores e interesses humanos.
As competências elencadas surgem do cruzamento de 4 pilares essenciais (abordagens centradas no ser humano, ética das IAs, aspectos técnicos das IAs e suas aplicações, e design de sistemas) com 3 níveis de proficiência (entender, aplicar e criar). No lado dos estudantes, essa matriz tem como diferencial a promoção da autonomia, transformando-os de receptores passivos de informações em co-criadores ativos de IAs. A proposta é de que os jovens da Geração IA sejam capazes não só de entender o funcionamento dessas tecnologias, mas também questioná-la, avaliar seus impactos sociais e ambientais e, eventualmente, projetar novas soluções que priorizem o bem comum.
A matriz de competências da UNESCO alinha-se especialmente com os objetivos da educação midiática nos pilares que tratam da abordagem centrada no ser humano e do entendimento crítico. É considerado um letramento necessário a qualquer cidadão entender que os sistemas de IA incorporam valores humanos, que devemos operá-los de formas que respeitem direitos humanos, dignidade e diversidade, garantindo que decisões críticas permaneçam sob controle humano, e que nossas práticas sejam seguras, responsáveis e éticas por definição.
Esta organização multidimensional da Matriz de Competências faz com que seja um documento norteador de grande utilidade em uma grande diversidade de contextos — seja para currículos de computação, como maior foco no entendimento técnico e desenvolvimento de tecnologias, seja para iniciativas de educação midiática e cidadania digital, com o objetivo de fortalecer o uso crítico das IAs e a resiliência da sociedade frente aos seus potenciais riscos. Ao final, seja qual recorte for adotado, todos teremos como finalidade comum a preservação do tecido social e a garantia do bem estar para indivíduos, a sociedade e o planeta.
