CHATGPT ci sta rendendo più stupidi? Un nuovo studio del MIT ha risposte | Intelligenza-Artificiale

Gli chiedi di redigere un'e -mail. Di 'di riassumere un rapporto. Potresti anche averlo scritto un intero saggio. I modelli di linguaggio di grandi dimensioni (LLM) come Chatgpt sono strumenti incredibili per l'efficienza. Ma qual è il costo nascosto di tutta questa comodità? Scaricare il nostro lavoro mentale all'intelligenza artificiale si eroduce lentamente le nostre capacità cognitive? Un recente studio del MIT Media Lab, intitolato “Il tuo cervello su Chatgpt: accumulo di debito cognitivo quando usi un assistente di intelligenza artificiale per il compito di scrivere saggi“Ha affrontato proprio questa domanda e i risultati sono un campanello d'allarme per tutti noi. In questo blog, esploreremo l'esperimento condotto dal MIT, comprendiamo le sue scoperte e ottenere la risposta alla domanda: CHATGPT ci sta rendendo più stupidi?

L'esperimento: cervelli contro robot

I ricercatori hanno organizzato un esperimento affascinante. Hanno reclutato 54 partecipanti e divisi in tre gruppi di 18 ciascuno per scrivere saggi su argomenti a livello SAT su diverse sessioni:

• Il gruppo LLM: Poteva solo usare Chatgpt (GPT-4)
• Il gruppo dei motori di ricerca: Potrebbe usare Google, ma nessun LLMS
• Il gruppo solo per il cervello: Non aveva accesso a strumenti esterni, nemmeno Internet

Utilizzando cuffie elettroencefalografiche (EEG), gli scienziati hanno misurato l'attività cerebrale dei partecipanti per vedere come le loro reti neurali hanno sparato e connesso durante il processo di scrittura. I risultati sono stati sorprendenti. Il team ha anche eseguito l'analisi di elaborazione del linguaggio naturale (PNL) sui saggi, ha intervistato ogni partecipante e ha valutato i saggi sia da insegnanti di inglese umano che da un giudice AI su misura.

L'esperimento non era una tantum; I partecipanti hanno completato questo processo per tre sessioni separate. Nella quarta e ultima sessione, i ricercatori hanno scambiato i gruppi. Solo 18 partecipanti hanno preso parte. Gli utenti LLM hanno scritto solo con il loro cervello, mentre il gruppo solo per il cervello ha ottenuto l'accesso alla LLM. Qui, il vero costo dell'assistenza all'intelligenza artificiale è diventato chiaro.

Cosa succede al tuo cervello quando usi un LLM?

Lo studio ha scoperto che la connettività cerebrale è stata sistematicamente caduta con aiuto esterno, da Google Search o LLMS. Sebbene l'effetto del danno fosse diverso e relativo al livello di aiuto.

• Il gruppo solo per il cervello ha mostrato le reti neurali più forti e diffuse, indicando un profondo impegno cognitivo.
• Il gruppo di motori di ricerca era nel mezzo.
• E il gruppo LLM? Hanno mostrato la connettività cerebrale più debole in generale.

Ciò suggerisce che quando facciamo affidamento solo sulle nostre menti, coinvolgiamo una rete ricca e complessa di regioni cerebrali per la memoria, la pianificazione e il pensiero creativo. Quando utilizziamo strumenti di aiuto come Google Search o LLMS, i nostri cervelli sembrano scaricare quel funzionamento, mostrando un'attività significativamente inferiore.

Il livello di attività diminuisce all'aumentare della quantità di supporto. La ricerca di Google ha comunque richiesto ai partecipanti di utilizzare il loro processo di pensiero per combinare tutte le informazioni di varie ricerche. Infine, tutti gli LLM necessari sono stati un prompt adatto e i partecipanti hanno ottenuto un saggio ben scritto che richiede il minor numero di attività cognitive. Pertanto, il loro cervello ha fatto la minima quantità di “rumore” neurale mentre il gruppo solo per il cervello era il più forte, neuralmente.

Il tracollo della memoria

Dopo aver scritto i loro saggi, ai partecipanti è stata posta una semplice domanda: “Puoi citare una frase dal tuo saggio senza guardarlo?”. I risultati sono stati uno shock completo.

• Nella prima sessione, l'incredibile 83% del gruppo LLM non è riuscito a fornire una citazione corretta dal saggio che avevano appena scritto. Nessuno di loro ha prodotto una citazione corretta.
• Nel frattempo, i gruppi di motori di ricerca e solo cerebrali avevano un richiamo e una capacità di citazione quasi perfetta entro la seconda sessione.

Questo fallimento della memoria visto nel gruppo solo LLM è direttamente correlato all'attività cerebrale tenuta. I processi neurali necessari per la codifica semantica profonda e il trasferimento di informazioni nella memoria a lungo termine semplicemente non venivano attivati ​​come fortemente nel gruppo LLM. Questo gruppo ha anche riportato un minor senso di “proprietà” sui loro saggi, con molti che si sentono disconnessi dal lavoro. Sembra che quando non facciamo il sollevamento pesante mentale, la conoscenza non si attacca e non sentiamo l'orgoglio della creazione.

Leggi anche: Ecco come i chatbot AI influiscono su di noi – uno studio di MIT e OpenAI

Cosa succede quando l'IA viene portata via?

Nella quarta e ultima sessione, i ricercatori hanno lanciato la sceneggiatura.

• LLM-a-cervello: Ai partecipanti che avevano usato Chatgpt è stato chiesto di scrivere senza strumenti.
• Cervello-llm: I partecipanti che avevano usato solo il loro cervello hanno avuto accesso a Chatgpt.

E i risultati sono allarmanti!

Il gruppo da LLM a cervello ha lottato. La loro connettività cerebrale era più debole, mostrando un “sottovalutazione di reti alfa e beta”, che sono cruciali per l'attenzione interna, l'elaborazione semantica e il pensiero creativo. Erano bloccati in una “carenza cognitiva”. La loro scrittura ha persino mostrato un pregiudizio verso il vocabolario specifico di LLM, riutilizzando le frasi dalle loro sessioni assistite dall'IA.

Mentre era in contrasto stellare a questo, l'attività cerebrale del gruppo da cervello-LM è aumentata. Quando a questi partecipanti, che avevano esercitato i loro muscoli cognitivi, ricevevano un LLM per riscrivere un saggio familiare, il loro cervello mostrava un richiamo di memoria più elevato e un reimpegno di reti cerebrali diffuse. L'atto di integrare i suggerimenti di intelligenza artificiale con i propri pensieri profondamente elaborati ha effettivamente coinvolto più cervello. Infatti, i saggi risultanti non erano solo unici, ma hanno mostrato un livello di finezza che ha fatto risaltare i loro saggi!

Stiamo accumulando un “debito cognitivo”?

Il debito cognitivo è una condizione in cui “ripetute dipendenza da sistemi esterni come LLMS sostituisce i processi cognitivi impegnativi richiesti per il pensiero indipendente”. Come il debito finanziario, ottieni una comodità immediata come prestito, ma lo paghi più tardi con interessi. L'interesse, in questo caso, è un pensiero critico ridotto, una memoria più debole e una ridotta creatività.

Pertanto, anche se i saggi assistiti da LLM erano spesso più lunghi e valutati bene da un giudice AI, gli insegnanti umani che valutano i saggi non sono stati colpiti. Hanno descritto i testi generati da LLM come omogenei, privi di sfumature personali e semplicemente “senz'anima”. Questa è una chiara indicazione che l'utilizzo continua dell'LLMS senza molto pensiero è l'aggiunta di un “debito cognitivo” sul nostro cervello, che alla fine diminuirebbe le nostre capacità di pensiero e analitiche.

Un altro studio interessante: Comportamento inquietante di AI: quando LLM avanzati infrangono le regole e resistono al controllo

Quindi Chatgpt ci sta rendendo più stupidi?

Bene, forse non adesso, Ma nel tempo, con uso incontrollato: Decisamente! La parte peggiore è quando ci rendiamo conto di ciò che è trading per il comfort di questo assistente di intelligenza artificiale, potremmo non essere in grado di tornare. Per quanto spaventoso può sembrare, ma l'uso dell'IA potrebbe essere solo un'altra dipendenza dal tipo di droga di cui nessuno ci avverte ancora.

Ma questa non è una chiamata per abbandonare l'IA. Strumenti come Chatgpt sono potenti alleati. Ma questa ricerca ci spinge a essere consapevoli. L'uso di un LLM per supportare un processo di pensiero auto-guidato esistente (come il gruppo cerebrale-lm) può essere un potente potenziatore cognitivo. Ma usarlo per sostituire il pensiero fin dall'inizio può impedirci di costruire i forti percorsi neurali che portano a un vero apprendimento, memoria profonda e creatività autentica.

Quindi, la prossima volta che ti rivolgi al tuo assistente di intelligenza artificiale, fai una domanda: stai esternalizzando un'attività o stai esternalizzando il tuo pensiero?

Il tuo cervello ti ringrazierà per aver conosciuto la differenza.

Trova documento di ricerca completa Qui.

Conclusione

Il mondo che ci circonda sta diventando sempre più acceso. Dalle vite personali a professionali, i chatbot alimentati da LLM ci stanno aiutando a svolgere compiti come velocità e con precisione imbattuta. Ma con grande potere, arriva una grande responsabilità. La responsabilità di comprendere la differenza tra Master e Slave si basa su di noi. Finché noi ci sono i nostri pensieri che allineano la nostra ricerca, usando LLM aiuterebbe a migliorare gli output finali, ma se i suoi LLM che occupano il pensiero, allora tutto ciò che possiamo aspettarci è un output secondario che sarebbe simile a tutti coloro che utilizzano gli stessi strumenti. In tal modo, uccidendo le nostre uniche del tutto limitando le possibilità.

Anu Madan è un esperto di progettazione didattica, scrittura di contenuti e marketing B2B, con un talento per trasformare idee complesse in narrazioni di impatto. Con la sua attenzione all'intelligenza artificiale generativa, crea contenuti approfonditi e innovativi che educa, ispira e guida un coinvolgimento significativo.