JBS Dev: Sui dati imperfetti e l’ultimo miglio dell’intelligenza artificiale: dalla capacità del modello alla sostenibilità dei costi

 | Intelligenza-Artificiale

Joe Rose, presidente di fornitore di tecnologia strategica Sviluppatore JBSvuole sfatare uno dei miti legati al lavoro con sistemi di intelligenza artificiale generativa e ad agenti. “È un malinteso comune ritenere che i dati debbano essere perfetti prima di eseguire qualsiasi di questi tipi di carichi di lavoro”, spiega.

Come a un recente articolo in AI Fieldbook delineafornitori e consulenti – non a caso – suggeriscono rispettivamente la necessità di enormi data lake e programmi pluriennali di trasformazione dei dati. I dirigenti quindi si grattano la testa. La realtà è leggermente diversa. “Gli strumenti non sono mai stati migliori di quelli attuali per gestire dati di scarsa qualità”, afferma Rose. “È quasi straordinario ciò che un LLM può capire su un suggerimento scritto a metà.”

Ha senso. Se hai a disposizione uno strumento del genere, vale la pena utilizzarlo a tuo vantaggio, con i guardrail corretti in posizione. L’imprevedibilità intrinseca dei modelli implica la necessità di gestire output errati, ed è qui che entra in gioco l’essere umano nel ciclo. Per i dati testuali o di categoria, esiste una resilienza in atto. “Le persone sono… abituate a ‘lo costruiamo, funziona, ce ne dimentichiamo'”, afferma Rose. “Non è proprio così che funzionano questi sistemi.”

Per quanto riguarda i dati imperfetti, Rose fornisce l’esempio di un cliente del settore medico il cui obiettivo era migrare verso un altro sistema di riconciliazione della fatturazione. I dischi erano un mix; alcuni erano in PDF, altri un’immagine; a volte la procedura sarebbe a nome del medico, il nome del medico sarebbe a nome del paziente e così via. L’IA gen è stata in grado di analizzare i dati puliti da un semplice prompt, dall’OCR alle immagini all’estrazione del testo per i PDF, mentre successivamente sono stati sfruttati approcci più agenti, come confrontare il record di un cliente con un contratto assicurativo per vedere se veniva fatturato alla giusta tariffa.

“Inizi a sovrapporre diversi casi d’uso uno sopra l’altro”, afferma Rose. “Questo non vuol dire che tutto vada bene: c’è ancora bisogno di un essere umano nel circuito. Ma quello che vuoi fare è dire: ‘abbiamo iniziato con il 20% automatizzato, poi il 40% e poi il 60, 80%’, e in un certo senso far crescere questo valore nel tempo.”

Andando avanti, Rose prevede che le discussioni future su questi modelli riguarderanno costi e portabilità. “Penso che assisteremo ad un allontanamento da questi balzi radicali e a queste capacità di modello, e ad un maggiore spostamento verso ‘come possiamo rendere i costi più sostenibili in modo da non dover costruire data center alla velocità con cui stiamo costruendo data center?'”, afferma.

“L’ultimo miglio è ‘come possiamo far funzionare queste cose su un laptop o un telefono invece di doverle eseguire in un data center?’ I modelli sono stati addestrati su una serie di dati, essenzialmente ogni pagina su Internet e altre cose. Non è che ci siano una tonnellata di dati in più che non siano già stati inseriti in essi che porteranno a qualche tipo di svolta.”

A Fiera dell’intelligenza artificiale e dei big dataa cui partecipa JBS Dev, Rose non vede l’ora di iniziare le conversazioni e un’altra opinione controversa che esprimerà sarà quella di dire alla gente di smettere di acquistare dai fornitori SaaS quando puoi farlo da solo. “Non è così difficile come sembra”, dice. “Quasi tutti hanno una sorta di presenza nel cloud, ed è da lì che inizierei, perché gli strumenti cloud, soprattutto per le tre grandi… hanno tutto il necessario per iniziare a implementare i carichi di lavoro degli agenti domani, senza nuove licenze software e nuova formazione.”

Una volta stabilito ciò, JBS Dev sarà presente per le fasi successive del viaggio.

Guarda l’intervista completa con Rose qui sotto:

Immagine di Gerd Altman da Pixabay

Fonte: www.artificialintelligence-news.com

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *