Lavori recenti hanno evidenziato la necessità di supportare il pensiero critico nel lavoro basato sull’IA generativa (GenAI). Questa necessità è motivata principalmente dall’osservazione che i flussi di lavoro assistiti dall’IA tendono a essere soggetti a una "convergenza meccanizzata", ovvero gli utenti con accesso agli strumenti di GenAI producono un insieme meno diversificato di risultati per lo stesso compito, rispetto a quelli che non utilizzano tali strumenti. Questa tendenza alla convergenza riflette una mancanza di giudizio personale, contestualizzato, critico e riflessivo rispetto agli output generati dall’IA, e può quindi essere interpretata come un deterioramento del pensiero critico.
[...]
Il pensiero critico nel lavoro intellettuale [ovvero lavoro che si basa principalmente sull'elaborazione, l'analisi e la gestione delle informazioni, come ricercatori, analisti, consulenti, ingegneri, giornalisti e simili, n.d.t.] coinvolge una serie di attività cognitive, come l'analisi, la sintesi e la valutazione. Abbiamo osservato che l'uso di strumenti di GenAI sposta lo sforzo di pensiero critico percepito dai lavoratori intellettuali in tre modi.
In particolare, per il richiamo e la comprensione, l'attenzione si sposta dalla raccolta di informazioni alla verifica delle stesse. Per l'applicazione, l'enfasi si sposta dalla risoluzione dei problemi all'integrazione delle risposte dell'IA. Infine, per l'analisi, la sintesi e la valutazione, l'impegno si sposta dall'esecuzione del compito alla gestione dello stesso.
L'uso della GenAI nel lavoro intellettuale crea nuovi compiti cognitivi per i lavoratori intellettuali. Il compito dell'integrazione delle risposte ne è un esempio lampante. Le persone che svolgono lavoro intellettuale devono valutare i contenuti generati dall'IA per determinarne la rilevanza e l'applicabilità ai loro compiti specifici, spesso modificando lo stile e il tono per allinearsi allo scopo e al pubblico previsti.
D'altra parte, alcuni compiti cognitivi diventano meno necessari grazie alla GenAI. Ad esempio, la raccolta di informazioni è stata notevolmente ridotta. Gli strumenti GenAI automatizzano il processo di ricerca e selezione delle informazioni rilevanti per il compito, rendendolo meno faticoso per i lavoratori intellettuali. Di conseguenza, il carico cognitivo associato alla ricerca e alla compilazione delle informazioni è diminuito.
Alcuni compiti cognitivi rimangono, ma la loro natura si è evoluta grazie alla GenAI. Uno di questi è la verifica delle informazioni, ovvero l'incrocio dei risultati generati dall'IA con fonti esterne [le quali potrebbero essere a loro volta state generate dall'IA, n.d.t.] e con la propria esperienza per garantire l'accuratezza e l'affidabilità. I lavoratori hanno sempre avuto bisogno di verificare le informazioni con cui lavorano, ma come strumento la GenAI ha i suoi punti di forza e le sue modalità di fallimento [solitamente chiamate "allucinazioni", cioè informazioni completamente false, inventate da zero e restituite dall'IA in maniera assertiva come se fossero reali, n.d.t.] quando si tratta di correttezza, accuratezza e parzialità.
Con la GenAI, i lavoratori intellettuali passano anche dall'esecuzione dei compiti alla supervisione, richiedendo loro di guidare e monitorare l'IA affinché produca risultati di alta qualità - un ruolo che definiamo “amministrazione”. Non è che l'esecuzione sia scomparsa del tutto, né che la supervisione di alto livello di un compito sia un ruolo cognitivo del tutto nuovo, ma c'è un passaggio dal primo al secondo.
A differenza della collaborazione uomo-uomo, in una “collaborazione” uomo-AI, la responsabilità e l'affidabilità del lavoro risiedono ancora nell'utente umano, nonostante il lavoro di produzione materiale sia delegato allo strumento GenAI, il che fa sì che l'“amministrazione” ci sembri una metafora più appropriata per ciò che l'utente umano sta facendo, piuttosto che compagno di squadra, collaboratore o supervisore.
Alla luce di questi cambiamenti, la formazione dei lavoratori intellettuali a pensare in modo critico quando lavorano con GenAI dovrebbe concentrarsi sullo sviluppo di competenze nella verifica delle informazioni, nell'integrazione delle risposte e nella gestione dei compiti. I programmi di formazione dovrebbero sottolineare l'importanza di fare riferimenti incrociati ai risultati dell'IA, di valutare la pertinenza e l'applicabilità dei contenuti generati dall'IA e di perfezionare e guidare continuamente i processi dell'IA. Inoltre, l'attenzione al mantenimento delle competenze di base nella raccolta delle informazioni e nella risoluzione dei problemi aiuterebbe i lavoratori a non dipendere eccessivamente dall'IA.
(mia traduzione, con note personali e aggiunta di formattazione, di parte della sezione 1 e della sezione 6.2 di "The Impact of Generative AI on Critical Thinking", pubblicato sul sito di Microsoft, 14 febbraio 2025, copia del PDF su archive.org)