Retrieval Augmented Generation (RAG) ha rivoluzionato la risposta alle domande su dominio aperto, consentendo ai sistemi di produrre risposte simili a quelle umane a un’ampia gamma di domande. Al centro di RAG si trova un modulo di recupero che scansiona un vasto corpus per trovare passaggi di contesto rilevanti, che vengono poi elaborati da un modulo generativo neurale – spesso un modello linguistico pre-addestrato come GPT-3 – per formulare una risposta finale.
Sebbene questo approccio sia stato molto efficace, non è privo di limiti.
Uno dei componenti più critici, la ricerca vettoriale sui passaggi incorporati, presenta vincoli intrinseci che possono ostacolare la capacità del sistema di ragionare in modo sfumato. Ciò è particolarmente evidente quando le domande richiedono un complesso ragionamento multi-hop su più documenti.
La ricerca vettoriale si riferisce alla ricerca di informazioni utilizzando rappresentazioni vettoriali dei dati. Prevede due passaggi fondamentali:
- Codifica dei dati in vettori
Innanzitutto, i dati da cercare vengono codificati in rappresentazioni vettoriali numeriche. Per i dati di testo come passaggi o documenti, ciò avviene utilizzando modelli di incorporamento come BERT o RoBERTa. Questi modelli convertono il testo in vettori densi di numeri continui che rappresentano il significato semantico. Immagini, audio e altri formati possono anche essere codificati in vettori utilizzando modelli di deep learning appropriati.
2. Ricerca utilizzando la somiglianza vettoriale
Una volta codificati i dati in vettori, la ricerca implica la ricerca di vettori simili alla rappresentazione vettoriale della query di ricerca. Ciò si basa su parametri di distanza come la somiglianza del coseno per quantificare la vicinanza di due vettori e classificare i risultati. I vettori con la distanza più piccola (somiglianza più alta) vengono restituiti come risultati della ricerca più rilevanti.
Il vantaggio principale della ricerca vettoriale è la capacità di cercare somiglianze semantiche, non solo corrispondenze letterali di parole chiave. Le rappresentazioni vettoriali catturano il significato concettuale, consentendo di identificare risultati più rilevanti ma linguisticamente distinti. Ciò consente una qualità di ricerca più elevata rispetto alla tradizionale corrispondenza delle parole chiave.
Tuttavia, anche la trasformazione dei dati in vettori e la ricerca nello spazio semantico ad alta dimensione presentano dei limiti. Il bilanciamento dei compromessi della ricerca vettoriale è un’area di ricerca attiva.
In questo articolo analizzeremo i limiti della ricerca vettoriale, esplorando il motivo per cui fatica a…
Fonte: towardsdatascience.com
