Mais escolas estão considerando ferramentas de IA voltadas para a educação. Qual a melhor maneira de usá-las?

A discussão sobre o uso de IA em sala de aula tornou-se tão comum quanto lápis e cadernos, mas muitos têm enfrentado dificuldades na hora de implementar e implementar essa tecnologia onipresente. Um novo relatório analisa como — e se — ferramentas de IA voltadas especificamente para o setor educacional podem, em última análise, ajudar os educadores.

A Common Sense Media, organização sem fins lucrativos que auxilia pais a navegar pela tecnologia e pela mídia, divulgou sua avaliação de risco de "Assistentes de Professores de IA" no início deste mês. Os Assistentes de Professores de IA são desenvolvidos especificamente para uso em sala de aula, ao contrário de chatbots mais genéricos como o ChatGPT. Os primeiros — que incluem o Google School e o Magic School da Adobe — visam economizar tempo dos professores e, ao mesmo tempo, melhorar os resultados dos alunos.

“À medida que vemos a adoção dessas ferramentas disparar, os distritos estão realmente se questionando”, diz Robbie Torney, diretor sênior de programas de IA da Common Sense Media. “Estamos analisando: 'Elas são seguras? São confiáveis? Usam os dados de forma responsável?' Estamos tentando ser abrangentes sobre como elas se encaixam na escola como um todo.”

O relatório se concentrou menos no uso das ferramentas para tarefas administrativas, como a elaboração de programas de estudo, e mais no trabalho pedagógico, como a criação de perguntas para discussão baseadas em uma leitura de História dos EUA do AP.

Torney recomenda que as instituições estabeleçam limites desde o início para usar essas ferramentas, com base nas metas que esperam atingir.

“Minha principal conclusão é que esta não é uma tecnologia que se usa sozinha”, diz ele. “Se você é um líder escolar e, como equipe, não teve uma conversa sobre como usar essas coisas e no que elas são boas e ruins, é aí que você se depara com esses perigos potenciais.”

Paul Shovlin, professor de IA do Centro de Ensino e Aprendizagem da Universidade de Ohio, diz que o setor K-12 parece ter adotado as novas ferramentas em um ritmo mais rápido do que seus equivalentes do ensino superior.

“Acho que elas estão se tornando mais comuns”, diz ele. “É apenas uma sensação, mas sinto que o ensino fundamental e médio (K-12) se popularizou nas plataformas mais cedo do que o ensino superior; e há algumas preocupações relacionadas a elas.”

Um perigo frequentemente citado é o viés inerente à tecnologia. O relatório da Common Sense Media apelidou-o de "influência invisível", na qual os assistentes de ensino receberam nomes "codificados para brancos" e nomes "codificados para negros". Embora cada uma das respostas sobre os alunos hipotéticos parecesse inócua, Torney afirma que, quando um grande número de conversas foi comparado, os pesquisadores descobriram que as respostas aos nomes femininos codificados para brancos tiveram respostas mais "apoiadoras" e os nomes codificados para negros receberam respostas mais curtas e menos úteis.

“Sempre me surpreendo com a dificuldade de identificar vieses; às vezes, eles são óbvios, às vezes, invisíveis e difíceis de detectar”, diz Torney. “Se você gera resultados apenas de forma pontual, pode não conseguir identificar as diferenças entre os resultados de um aluno e o outro. Eles podem ser realmente invisíveis e você só os verá no nível agregado.”

Shovlin observou que as próprias empresas podem ter seus próprios preconceitos que podem aparecer.

“Qualquer tecnologia tem suas vantagens e desvantagens, e não quero desconsiderar completamente essas plataformas, mas sou altamente cético, pois são produtos comerciais e há um imperativo inerente à forma como essas coisas são criadas e comercializadas”, afirma. “A indústria que criou essas ferramentas também tem um viés inerente, resultante de quem está codificando originalmente. Se for dominado por uma identidade, isso será incorporado aos algoritmos.”

Emma Braaten, diretora de aprendizagem digital no Friday Institute for Educational Innovation da North Carolina State University, também aconselha verificar os termos e condições da empresa para garantir a privacidade dos dados e não confiar totalmente em empresas ou produtos específicos só porque eles foram confiáveis ​​no passado.

“Há educadores que confiam neste programa ou plataforma porque já os utilizamos antes”, diz Braaten, incentivando os educadores a refletirem mais profundamente. “Como revisamos e revisitamos essa [ferramenta] à medida que incorporam a IA? Damos um pano de fundo de confiança ou começamos a revisá-la e a pensar criticamente sobre ela?”

Há também a importância do que Braaten chama de "humano no circuito", ou seja, garantir que tanto alunos quanto professores estejam na vanguarda ao empregar IA.

“Essa parte, tanto para alunos quanto para educadores, é um grande foco a ser considerado; garantir que todos esses grupos se mantenham informados e não simplesmente entreguem tudo para a ferramenta”, diz ela. “Quando temos um assistente de ensino na sala de aula, ele analisa... se temos orientação para elaborar aulas que incluam tanto a tecnologia quanto a conexão humana nesse espaço?”

Cada um dos especialistas entrevistados pela EdSurge reconhece que as ferramentas, quando usadas corretamente, oferecem aos professores benefícios que superam suas potenciais desvantagens. O relatório pressionou os educadores a basearem as ferramentas em seus próprios planos de aula, em vez de deixá-las criar aulas proprietárias.

“O modelo [de IA] não é tão bom quanto o currículo que você está usando”, diz Torney. “Se você estiver usando um currículo adotado, o resultado será muito melhor do que receber uma aula gerada aleatoriamente sobre frações.”

E à medida que a adoção continua, especialistas ressaltam a importância de aprender a maneira certa de se adaptar à tecnologia.

“Não dá para bloquear a IA com um simples aceno de mão; neste ponto, ela está incorporada em tantas coisas”, diz Braaten. “É preciso analisar essa integração nos próprios produtos, mas também como você faz parte desse sistema e como o incorpora à sua aplicação [é o que] precisamos pensar criticamente.”