Comprensione del grafico dei suggerimenti di pensiero e diverse varianti…
Tecniche avanzate di suggerimento come la catena di pensiero (8) e l’albero del pensiero (9) hanno migliorato drasticamente la capacità dei modelli linguistici di grandi dimensioni (LLM) di risolvere compiti complessi basati sul ragionamento. Ad alto livello, costringere il LLM a costruire una risposta passo passo a un problema migliora drasticamente le sue capacità di risoluzione dei problemi. Tuttavia, tutte queste tecniche presuppongono che il processo di ragionamento segua uno schema lineare che progredisce da un pensiero a quello successivo. In particolare, il processo di ragionamento seguito dagli esseri umani tende ad essere molto diverso, seguendo molteplici catene di pensiero diverse e persino combinando intuizioni provenienti da pensieri diversi per arrivare a una soluzione finale. All’interno di questa panoramica, studieremo diverse tecniche di suggerimento che modellano il processo di ragionamento come una struttura grafica – piuttosto che una catena o un albero – che cattura meglio i vari tipi di modelli non lineari che possono verificarsi quando si ragiona su un problema.
“Il pensiero umano è spesso caratterizzato dalla sua capacità di compiere improvvisi balzi e connessioni tra idee apparentemente non correlate, che possono portare a nuove intuizioni e soluzioni. Questo processo di pensiero non lineare e saltellante è un segno distintivo della creatività umana, del ragionamento e delle capacità di risoluzione dei problemi. — da (1)
All’interno di questa panoramica, esploreremo diverse tecniche avanzate di prompt per LLM che possono essere utilizzate per risolvere difficili problemi di ragionamento in più fasi. Fortunatamente, abbiamo recentemente esaminato le idee di base alla base del prompt, tra cui:
- Nozioni di base sui prompt (ad esempio, ingegneria dei prompt, finestre di contesto, struttura di un prompt, ecc.) (collegamento)
- Tecniche di suggerimento avanzate (ad es. catena di pensiero, autocoerenza e suggerimenti dal minimo al massimo) (collegamento)
In passato abbiamo trattato sia le tecniche di suggerimento pratiche che quelle avanzate. Tutti questi concetti – in particolare il suggerimento della catena di pensiero (CoT) (8), l’autocoerenza (10) e il suggerimento dell’albero del pensiero (ToT) (9) – saranno rilevanti per comprendere questa panoramica. Al di là di queste idee, dobbiamo comprendere l’architettura del trasformatore e il grafico…
Fonte: towardsdatascience.com
