5 Perguntas sobre Geração Aumentada por Recuperação

Este framework pode ajudar as instituições a refinarem o uso de modelos de linguagem de grande escala.

A inteligência artificial continua sendo um foco importante no ensino superior. À medida que as instituições implementam suas próprias soluções para apoiar o corpo docente e orientar os alunos em suas jornadas educacionais, elas descobrirão que a geração aumentada por recuperação pode ser fundamental para aprimorar ferramentas que utilizam modelos de linguagem de grande escala. 1. O que é Geração Aumentada por Recuperação?

A Geração Aumentada por Recuperação (RAG) é uma maneira de aproveitar modelos de linguagem de grande escala já treinados, como GPT-4, Gemini, Bard e Llama, ao construir aplicações impulsionadas por IA. Ao adicionar conhecimento local (como políticas ou informações de protocolo da universidade), contexto (como informações de perfil de professores) ou histórico (como dados de estudantes), o RAG aumenta os LLMs para evitar problemas comuns de IA, como falta de informações específicas e alucinações dos modelos.

2. Como o RAG Funciona?

O RAG essencialmente "envolve" um LLM adicionando informações relevantes ao prompt (consulta) que é enviado ao LLM. Por exemplo, suponha que um administrador queira fazer uma pergunta sobre o status de graduação de um estudante. O RAG processa a consulta primeiro para entender a questão geral e os detalhes específicos sendo abordados. Em seguida, a ferramenta RAG pode recuperar o protocolo da universidade, recomendações, histórico do estudante e notas, enviando tudo isso ao LLM juntamente com a pergunta do administrador. Isso fornece ao LLM conhecimento local, contexto e histórico para ajudar a responder à pergunta. Tudo isso é invisível para o administrador porque o wrapper RAG está fazendo o trabalho de escolher o que enviar ao LLM.

3. Como o RAG se Compara ao Ajuste Fino?

O ajuste fino de um LLM existente adiciona informações ao modelo, geralmente dados privados. Isso pode ser útil para tornar o LLM melhor em tarefas específicas. O RAG aprimora o LLM com informações atualizadas e contextualmente úteis no momento em que o LLM é consultado. Os dados dos estudantes não são salvos no modelo, mas o modelo sempre tem as informações mais recentes de que precisa para ajudar a responder às perguntas, e não há preocupações de segurança sobre o armazenamento de dados privados no modelo.