Ética da IA no Ensino Superior: Como as Instituições Estão Avançando

As instituições de ensino superior estão em uma posição única para avaliar a ética da IA e explorar salvaguardas que promovam o uso responsável nas universidades e faculdades. Quando se trata das questões éticas levantadas pela inteligência artificial, universidades estão liderando o caminho.

Muitas universidades já utilizam a IA para apoiar o ensino, a aprendizagem, a pesquisa, funções administrativas e até mesmo segurança física. Ao mesmo tempo, elas estão sendo proativas e reflexivas ao fazer perguntas importantes sobre o uso responsável dessa tecnologia poderosa.

Por que a Ética da IA é Única no Ensino Superior

O ensino superior está em uma posição única para lidar com as considerações éticas da IA, em parte porque a adoção da IA já é prevalente no meio acadêmico.

Na Universidade de Miami, em Ohio, “há cursos sobre IA, e há cursos que utilizam IA”, diz David Seidl, Vice-Presidente de Serviços de TI e CIO. À medida que o uso da IA se amplia, as universidades precisam oferecer aos alunos “uma base ética, uma base conceitual para prepará-los para o futuro”, afirma.

Muitas universidades já têm a expertise institucional necessária para estabelecer essa base. “Temos pessoas muito reflexivas, que trazem expertise de diversos pontos de vista, para que possamos ter conversas bem-informadas sobre a ética da IA”, diz Tom Andriola, vice-chanceler de TI e dados da Universidade da Califórnia, Irvine.

Dado o acesso do ensino superior à tecnologia e os especialistas presentes nessas instituições, o cenário já está preparado para conversas sobre as dificuldades éticas da IA. Em muitas universidades, essas discussões já começaram.

Principais Preocupações Éticas em Torno da IA no Ensino Acadêmico

Na UC San Diego, o CIO Vince Kellen afirma que a principal questão ética com a IA é a democratização; especificamente, a capacidade de acessar a IA por uma ótica intelectual.

“Aqueles que exercem raciocínio crítico ao usar a IA têm um benefício maior”, diz ele. “Aqueles que não o fazem, têm um benefício menor.”

As universidades têm um imperativo ético de ensinar habilidades de pensamento crítico, o que se alinha com as preocupações sobre a precisão da IA.

Por exemplo, se você perguntar à IA como manter o queijo na pizza, ela pode responder: “Cola é uma ótima forma de manter o queijo na pizza”, diz Seidl. “A preocupação ética aí é dar essa resposta a indivíduos que podem ou não ser bons em avaliar a qualidade dessa resposta.”

A privacidade é uma grande preocupação para Michael Butcher, vice-presidente assistente para assuntos estudantis e reitor de estudantes no College of Coastal Georgia, onde também co-preside o comitê de IA.

“As pessoas ainda não entendem totalmente o que acontece quando inserem seus dados em um aplicativo de IA apoiado ou não por uma instituição”, diz ele. Dada a natureza dos dados acadêmicos — de informações pessoais a pesquisas sensíveis — a privacidade se torna uma consideração ética significativa.

O viés é outra preocupação. Peça à IA para criar uma imagem de uma enfermeira, e ela provavelmente desenhará uma mulher, porque foi treinada com dados que refletem “viéses de longo prazo existentes na sociedade”, diz Seidl. “O que estamos fazendo inadvertidamente ao permitir que a IA continue a perpetuar esses viéses?”

Também existem questões sobre a integridade acadêmica e o risco de os usuários dependerem excessivamente da IA. O ensino superior precisa considerar “onde termina a assistência acadêmica legítima e onde começa a dependência antiética”, diz Butcher.

Dadas as várias áreas cinzentas éticas, o ensino superior está sendo desafiado a estabelecer limites nesses primeiros dias de adoção da IA.