Le recenti innovazioni nella progettazione di modelli linguistici di grandi dimensioni (LLM) hanno portato a rapidi progressi nelle capacità di apprendimento e ragionamento in poche riprese. Tuttavia, nonostante i loro progressi, gli LLM devono ancora affrontare dei limiti quando devono affrontare contesti complessi del mondo reale che coinvolgono enormi quantità di conoscenze interconnesse.
Per affrontare questa sfida è emerso un approccio promettente generazione aumentata di recupero (RAG). RAG combina i punti di forza dell’apprendimento adattivo dei LLM con il recupero scalabile da fonti di conoscenza esterne come i grafici della conoscenza (KG). Invece di tentare di codificare staticamente tutte le informazioni all’interno del modello, RAG consente di interrogare al volo il contesto necessario dai grafici della conoscenza indicizzati, secondo necessità.
Tuttavia, orchestrare in modo efficace il ragionamento e il recupero attraverso fonti di conoscenza interconnesse comporta le proprie sfide. Gli approcci ingenui che si limitano a recuperare e concatenare le informazioni in passaggi discreti spesso non riescono a catturare completamente le sfumature all’interno dei densi grafici della conoscenza. La natura interconnessa dei concetti fa sì che dettagli contestuali vitali possano andare perduti se non analizzati in relazione gli uni agli altri.
Recentemente, un intrigante framework denominato LLM Compiler ha dimostrato i primi successi nell’ottimizzazione dell’orchestrazione di più chiamate di funzioni nei LLM gestendo automaticamente le dipendenze e consentendo l’esecuzione parallela.
In questo articolo, esploriamo il potenziale dell’applicazione più ampia delle tecniche del compilatore LLM al recupero e al ragionamento del knowledge graph. Abbiamo già realizzato un prototipo funzionante prima della pubblicazione del documento:
Fonte: towardsdatascience.com
