Retrieval Augmented Generation: A chave que abre a porta da precisión aos modelos da linguaxe

Precisamente, a técnicas RAG desenvolvéronse para mellorar a calidade das respostas en contextos específicos, por exemplo, nunha disciplina concreta ou con base en repositorios de coñecemento privados como bases de datos de empresas.  

RAG  é unha técnica extra dentro dos marcos de traballo da intelixencia artificial, cuxo obxectivo é recuperar feitos dunha base de coñecementos externa para garantir que os modelos de linguaxe devolven información precisa e actualizada. Un sistema RAG típico (ver imágen) inclúe un  LLM , unha base de datos vectorial (para almacenar convenientemente os datos externos) e unha serie de comandos ou preguntas. É dicir, de forma simplificada, cando facemos unha pregunta en linguaxe natural a un asistente como ChatGPT, o que ocorre entre a pregunta e a resposta é algo como: 

Poñamos un exemplo concreto. Imaxina que estás a tentar responder unha pregunta sobre dinosauros. Un  LLM  xeneralista pode inventarse unha resposta perfectamente plausible, de forma que unha persoa non experta na materia non a diferenza dunha resposta con base científica. Pola contra, co uso de  RAG , o  LLM  buscaría nunha base de datos de información sobre dinosauros e recuperaría os feitos máis relevantes para xerar unha resposta completa.  

O mesmo ocorría se buscamos unha información concreta en unha base de datos privada. Por exemplo, pensemos nun responsable de recursos humanos dunha empresa. Este desexa recuperar información resumida e agregada sobre un ou varios empregados cuxos rexistros se atopan en diferentes bases de datos da empresa. Pensemos que podemos estar a tratar de obter información a partir de táboas salariais, enquisas de satisfacción, rexistros laborais, etc. Un LLM é de gran utilidade para xerar unha resposta cun patrón humano. Con todo, é imposible que ofreza datos coherentes e precisos posto que nunca foi adestrado con esa información debido ao seu carácter privado. Neste caso, RAG asiste a o LLM para proporcionarlle datos e contexto específico co que poder devolver a resposta adecuada. 

Da mesma forma, un LLM complementado con RAG sobre rexistros médicos podería ser un gran asistente no ámbito clínico. Tamén os analistas financeiros beneficiaríanse dun asistente vinculado a datos actualizados do mercado de valores. Practicamente, calquera caso de uso benefíciase da técnicas RAG para enriquecer as capacidades de os LLM con datos de contexto específicos.