O que precisamos saber sobre IAs?

Mariana Ochs
4 min readDec 3, 2024

--

Matriz de competências de IA lançada pela Unesco indica a necessidade desse letramento para todos os cidadãos

O jogo AI For Oceans, do Code.org, mostra para as crianças como as máquinas aprendem.

(Texto publicado em 28/11/2024 como parte da série de artigos do EducaMídia na Folha de SP que busca trazer conceitos de educação midiática para professores de educação básica.)

No início era o verbo: em novembro de 2022, o lançamento do ChatGPT inaugurou o nosso encantamento com as IAs generativas, aplicações que geram texto a partir de comandos em linguagem natural. Em dois meses a plataforma já tinha alcançado a marca de 100 milhões de usuários — a adoção mais rápida da história. Outras aplicações se seguiram, capazes de gerar não só textos estruturalmente corretos como imagens, videos e áudios realistas e convincentes.

Hoje, dois anos depois, as IAs generativas estão integradas em muitos dos aplicativos com os quais aprendemos ou trabalhamos, e seu avanço no mercado de tecnologias educacionais é considerável — como apoio ao professor ou em tutores personalizados, gerando aulas, testes e imagens para materiais didáticos. Já é bastante significativa, também, a penetração de imagens ou textos gerados por IA em bancos de imagens, sites noticiosos e redes sociais.

Esse avanço não é sem riscos. Nesse estágio do seu desenvolvimento, os aplicativos que geram imagens são notórios por reproduzir vieses de todos os tipos, gerando conteúdos racistas e misóginos, ou perpetuando estereótipos. Os textos gerados são tão bem escritos que somos induzidos a acreditar neles, mesmo sem poder conhecer as fontes — e confiamos mais ainda nos chatbots que apresentam referências, embora muitas vezes essas sejam inadequadas ou até inventadas. Além da ampliação de conteúdos imprecisos ou medíocres em circulação, estamos vendo também o aumento do uso malicioso dessas IAs, com a produção de deep fakes feitos para manipular opiniões ou destruir reputações. Operando de forma opaca, essas tecnologias atuam sobre dinâmicas sociais e impactam nosso direito à informação.

Nesse cenário, o letramento para o uso adequado e ético dessas tecnologias é fundamental. Mas o que exatamente devemos ensinar? Quais competências serão necessárias para todo e qualquer cidadão de forma a garantir sua autonomia frente às decisões de máquina, e sua capacidade de zelar pelo bem comum? Em resposta a essas perguntas, a Unesco lançou em outubro as Matrizes de Competências de IA para Estudantes e para Professores, documentos que não só norteiam a construção de currículos e formações, como o fazem a partir de uma premissa flexibilizadora: a de que há um nível básico de conhecimento e agência, essencial a todos, e que estudos mais aprofundados, para aqueles que demonstrarem aptidão ou interesse, serão capazes de fundamentar uma prática criativa que mobilize novos usos dessas tecnologias de forma centrada em valores e interesses humanos.

Matriz de Competiencias de IA para Estudantes (UNESCO, 2024)

As competências elencadas surgem do cruzamento de 4 pilares essenciais (abordagens centradas no ser humano, ética das IAs, aspectos técnicos das IAs e suas aplicações, e design de sistemas) com 3 níveis de proficiência (entender, aplicar e criar). No lado dos estudantes, essa matriz tem como diferencial a promoção da autonomia, transformando-os de receptores passivos de informações em co-criadores ativos de IAs. A proposta é de que os jovens da Geração IA sejam capazes não só de entender o funcionamento dessas tecnologias, mas também questioná-la, avaliar seus impactos sociais e ambientais e, eventualmente, projetar novas soluções que priorizem o bem comum.

A matriz de competências da UNESCO alinha-se especialmente com os objetivos da educação midiática nos pilares que tratam da abordagem centrada no ser humano e do entendimento crítico. É considerado um letramento necessário a qualquer cidadão entender que os sistemas de IA incorporam valores humanos, que devemos operá-los de formas que respeitem direitos humanos, dignidade e diversidade, garantindo que decisões críticas permaneçam sob controle humano, e que nossas práticas sejam seguras, responsáveis e éticas por definição.

Esta organização multidimensional da Matriz de Competências faz com que seja um documento norteador de grande utilidade em uma grande diversidade de contextos — seja para currículos de computação, como maior foco no entendimento técnico e desenvolvimento de tecnologias, seja para iniciativas de educação midiática e cidadania digital, com o objetivo de fortalecer o uso crítico das IAs e a resiliência da sociedade frente aos seus potenciais riscos. Ao final, seja qual recorte for adotado, todos teremos como finalidade comum a preservação do tecido social e a garantia do bem estar para indivíduos, a sociedade e o planeta.

--

--

Mariana Ochs
Mariana Ochs

Written by Mariana Ochs

Designer, educator, Google Innovator. Coordinator of EducaMídia. Exploring design, media and technology in education, and empowering youth in the digital age.

No responses yet