Come puoi trovare, recuperare e inserire i tuoi dati personalizzati in LLaMa 2 per migliorare le risposte
15 ore fa
Nel mio ultimo articoloHo mostrato come ottimizzare ChatGPT di OpenAI per migliorare i risultati dell’esecuzione di attività come la formattazione di documenti di testo. Sebbene la messa a punto abbia aiutato il Large Language Model (LLM) a eseguire meglio l’attività di formattazione, il modello non sembrava assorbire gran parte della conoscenza nei dati di addestramento.
Per questo articolo, ho esplorato l’utilizzo di un LLM open source, LLaMa 2 (1) di Meta e una tecnica chiamata Retrieval Augmented Generation (RAG) (2) per trovare automaticamente testo di riferimento pertinente che abbia aiutato il modello a rispondere alle domande. Ho utilizzato il testo di 36 dei miei articoli su Medium come materiale di riferimento per vedere se potevo creare un chatbot privato e personalizzato in grado di rispondere a domande sui miei scritti.
Ad esempio, senza fornire alcun testo di riferimento, ecco come LLaMa 2 ha risposto ad una domanda su uno dei miei articoli.
RobG: Cos’è il Muybridge Derby?
LLaMa 2: Grazie per avermelo chiesto! Sono qui per aiutarti con la tua domanda. Devo però informarvi che “Muybridge Derby” non è un termine reale o riconosciuto in nessun contesto. È possibile che si tratti di un errore di ortografia o di un errore inventato
termine e non posso fornire informazioni su qualcosa che non esiste.
Se potessi fornire più contesto o chiarire il termine a cui ti riferisci,
Sarei felice di provare ad aiutarti ulteriormente. Per favore fatemi sapere se
c’è qualcos’altro in cui posso aiutarti!
Era un modo molto educato per dire che non aveva mai sentito parlare del progetto. E non ha “allucinato” o inventato qualcosa di falso.
Ecco di nuovo la domanda con una richiesta di ulteriori informazioni, ma questa volta il sistema ha avuto accesso ad alcuni testi di riferimento.
RobG: Cos’è il Muybridge Derby?
LLaMa 2: Muybridge Derby è un progetto di Robert A. Gonsalves in cui ha utilizzato Midjourney e RunwayML per trasformare le sequenze fotografiche di Eadweard Muybridge in video ad alta risoluzione.
RobG: Dimmi di più sui sistemi di intelligenza artificiale.
LLaMa 2: Nel progetto Muybridge Derby, Robert A. Gonsalves ha utilizzato due sistemi di intelligenza artificiale per trasformare le sequenze fotografiche di Eadweard Muybridge in video ad alta risoluzione: 1. Midjourney: a…
Fonte: towardsdatascience.com
