NeMo Guardrails, il kit di strumenti di sicurezza LLM open source definitivo | di Wenqi Glantz | Febbraio 2024 | Intelligenza-Artificiale

Esplorazione dei casi d’uso pratici di NeMo Guardrails

13 minuti di lettura

·

15 ore fa

Sul tema della sicurezza LLM, abbiamo esplorato OWASP top 10 per le applicazioni LLM, Guardia di FiammaE Faro IA così lontano da diverse angolazioni. Oggi esploreremo Guardrail NeMoun toolkit open source sviluppato da NVIDIA per aggiungere facilmente guardrail programmabili ai sistemi conversazionali basati su LLM.

In che modo NeMo Guardrails è diverso da Llama Guard, in cui ci siamo tuffati un articolo precedente? Mettiamoli fianco a fianco e confrontiamo le loro caratteristiche.

Come possiamo vedere, Llama Guard e NeMo Guardrails sono fondamentalmente diversi:

• Llama Guard è un modello linguistico di grandi dimensioni, perfezionato da Llama 2, e un modello di salvaguardia input-output. Viene fornito con sei categorie non sicure e gli sviluppatori possono personalizzare tali categorie aggiungendo ulteriori categorie non sicure per adattarle ai loro casi d’uso per la moderazione input-output.
• NeMo Guardrails è un set di strumenti di sicurezza LLM molto più completo, che offre un set più ampio di guardrail programmabili per controllare e guidare input e output LLM, inclusa la moderazione dei contenuti, la guida agli argomenti, che indirizza le conversazioni verso argomenti specifici, la prevenzione delle allucinazioni, che riduce la generazione di informazioni fattuali. contenuti errati o privi di senso e modellazione della risposta.

Entriamo nei dettagli di implementazione su come aggiungere NeMo Guardrails a una pipeline RAG creata con RecursiveRetrieverSmallToBigPackun pacchetto di recupero avanzato da LlamaIndex. Come funziona questo pacchetto? Prende il nostro documento e lo scompone, iniziando con le sezioni più grandi (pezzi genitori) e tagliandole in pezzi più piccoli (pezzi figli). Collega ogni pezzo figlio al suo genitore…