ChatGPT, IA generativa
Un focus sulla configurazione della temperatura, della Top P, della penalità di frequenza e della penalità di presenza direttamente nei messaggi ChatGPT
Recentemente ho letto un libro molto interessante di David Clinton, intitolato La guida completa e obsoleta all’intelligenza artificiale generativapubblicato da Manning Publications. Nel secondo capitolo, l’autore descrive quali sono i principali parametri di un modello di intelligenza artificiale e come configurarli per adattarli alle proprie esigenze. I parametri di configurazione includono temperatura, valore P superiore, penalità di frequenza e penalità di presenza.
La configurazione di questi parametri potrebbe aiutare ChatGPT a comprendere il tipo di output che desideri produrre. Ad esempio, potresti impostare alcuni parametri se desideri che ChatGPT generi un output più deterministico (strettamente correlato all’input). Invece, se vuoi che ChatGPT sia più creativo durante la generazione dell’output, puoi impostare altri parametri.
Per comprendere come funziona il tipo di output, David Clinton fornisce un esempio relativo al tempo nel suo libro. Un risultato più deterministico potrebbe essere: Oggi c’è il sole e la temperatura è di 30°C. Un risultato più creativo potrebbe essere: Oggi c’è il sole e potresti fare una passeggiata.
Spinto dalle descrizioni che ho trovato nel libro, ho provato a realizzare io stesso alcuni esempi per vedere come applicare quanto scritto nel libro in un caso pratico. Spero che anche tu possa trarre beneficio da questo articolo.
Per chi ha familiarità con l’API OpenAI, i parametri di configurazione possono essere passati direttamente come argomenti nelle funzioni API. Utilizzarli invece nell’interfaccia web di ChatGPT non è immediato. In questo articolo ti mostrerò come includere questi parametri direttamente nel prompt di ChatGPT.
Per fare le prove pratiche utilizzeremo uno scenario immaginario e la versione gratuita di ChatGPT, che potete trovare a questo link. Ti ricordo che prima di utilizzare ChatGPT devi creare un account e leggere le politiche di utilizzo della piattaforma.
In questo articolo tratteremo:
- Impostazione dello scenario
- Temperatura
- Valore P superiore
Fonte: towardsdatascience.com
