IA psicoterapeuta? Eliza in italiano

Benvenuti in questo piccolo gioco interattivo che simula uno psicoterapeuta, pensato come un invito a riflettere su di sé. Puoi scrivere quello che vuoi: nessun dato viene salvato, quindi la tua privacy è garantita.

E' una rielaborazione dello storico Eliza, un lavoro che fece Joseph Weizenbaum nel 1966. Chi vuole può scaricarsi il codice sorgente.

Anche se a volte le risposte potranno sembrarti un po’ “strane” dal punto di vista linguistico, cerca di prenderle come uno spunto di introspezione. È un dono che metto a disposizione di chiunque voglia esplorare i propri pensieri in modo leggero.

Puoi interrompere in qualsiasi momento. Buon viaggio interiore!

Siamo esseri limitati

Gli Stati Uniti si avviano a "superare i loro limiti" con il progetto Stargate, una rete nazionale di supercomputer e datacenter finalizzata ad una intelligenza artificiale "super". Teniamo a mente questa notizia, su cui torneremo tra poco, prima vorrei discutere della nostra penosa condizione di esseri umani.

Perché nella vita accadono cose indesiderabili, brutte o persino tragiche? Perché spesso le cose non vanno come vorremo? Perché, se ripensassimo onestamente al nostro agire, vedremmo la nostra pochezza?

Perché la vita è "dukkha", cioè "difficile da sopportare"?

Dukkha è, come insegnò il Budda Shakyamuni, la condizione di sofferenza che accomuna tutti gli esseri senzienti, umani e non umani, divinità comprese. In questa visione, la pena, il lamento, il dolore corporeo, lo sconvolgimento della mente e l'agonia sono in conseguenza dei desideri, della "brama" che deriva dal semplice fatto di essere vivi.

Secondo me, una spiegazione più sintetica della causa delle nostre sofferenze è che "abbiamo dei limiti".

Le nostre vite sono un continuo vincolo tra i limiti della nostra mente, del nostro corpo, dell'ambiente naturale e di quello artificiale creato dalla società. Spesso non abbiamo neanche il "tempo" per pensare e fare scelte assennate, perché il "tempo" è il limite supremo di ogni cosa e la garanzia della nostra morte. Così, spesso agiamo piegandoci alle circostanze e facendo affidamento sull'intuizione o sui comportamenti appresi, iper-semplificando la complessità della realtà che altrimenti sarebbe ingestibile. Le normi sociali servono proprio a questo.

Ma la sofferenza rimane, dukkha è ineliminabile. C'è chi lo accetta e vive meglio che può, con quel poco che ha, all'interno dei propri limiti. In questa accettazione può esserci anche tanta gioia, soprattutto negli affetti.

Chi invece non accetta tutti questi limiti... crede, forse, tornando alla notizia iniziale, che il progetto Stargate oggi, e altri ancora più ambiziosi domani, siano la soluzione. Nell'inconscio umano non c'è accettazione del limite e la tecnologia è una risposta illusoria per superarlo. Ma un progetto come Stargate richiede almeno cinque centrali atomiche per erogare l'energia elettrica necessaria. Purtroppo la dualità dell'uso civile/militare dell'energia nucleare è ingannevole.

Renzo Rosso scrisse un articolo su "Il Fatto Quotidiano" del 5 aprile 2022, intitolato "Il nucleare civile favorisce e sostiene in molti modi i programmi militari", in cui spiegò, come si evince dal titolo, che il nucleare civile comunque è uno dei mezzi possibili, ed effettivamente usati, per produrre la bomba atomica. Inoltre, "Ripartire dal nucleare è un passo indietro pericoloso e, oltre tutto, ingiustificabile sotto il profilo economico. Il nucleare civile si sostiene solo per l’esternalizzazione dei costi e delle perdite. Sono i cittadini contribuenti a pagare gli incentivi, le sovvenzioni, le garanzie sui capitali investiti, la limitazione delle responsabilità per i danni di incidenti, i controlli sanitari, la spesa per la costruzione e la gestione dei depositi di scorie radioattive. E tutti i costi appostati nei bilanci militari in modo non trasparente."

Quindi, dietro la facciata dell'onnipresente intelligenza artificiale, ci sono costi abnormi scaricati su di noi e il sostegno a programmi militari.

Tornando alla riflessione sul dukkha, cioè sulla nostra condizione di base di esseri umani, le bombe atomiche sono una soluzione alle nostre sofferenze? E l'intelligenza artificiale?

Il problema non è l'essere umano, perché ha dei limiti.
Il problema sono i desideri umani e la follia che ne consegue, perché sono senza limiti e possono distruggere tutto.

A volte basterebbe dire "Io ho dei limiti" piuttosto che essere in guerra con la natura, con i propri simili, con il mondo intero e con Dio.

(23 gennaio 2025)

P.S.: Pure questo è scritto senza IA, seguendo l'esempio dell'articolo di Giulio Ripa "Dalla servitù della gleba alla servitù delle piattaforme digitali".

Dalla servitù della gleba alla servitù delle piattaforme digitali

Articolo di Giulio Ripa, con commento in calce di Francesco Galgani

Dallo stato sociale allo stato borghese
Dalla servitù della gleba alla servitù delle piattaforme digitali

Lo stato sociale per definizione è "l'orientamento dello Stato e/o di istituzioni sociali volto a proteggere e promuovere il benessere economico e sociale dei cittadini, sulla base dei principi di pari opportunità, equa distribuzione della ricchezza e responsabilità pubblica per i cittadini più fragili."

La divisione nei due blocchi est-ovest venutasi a creare dopo la seconda guerra mondiale, spinse i paesi occidentali  ad avviare politiche di assistenza sociale in competizione con le politiche sociali dei paesi comunisti dell'est.
Dopo la caduta del muro di Berlino e dell'Unione Sovietica, gli stati in Europa hanno ridotto,  sempre di più lo stato sociale.
La diminuzione della spesa pubblica come intervento dello stato, ha sempre di più favorito le privatizzazioni, la finanziarizzazione dell'economia, l’accumulazione dei capitali, i monopoli.

Tutta una serie di servizi pubblici sono soggetti al mercato ed alle speculazioni finanziarie. E' la fine del servizio pubblico universale e l’inizio di ognuno pensa per sé.
Poveri, precari, e fragili cittadini sono sempre di più abbandonati al loro destino, determinato da un sistema neoliberista che genera disuguaglianze e una visione individualista nei rapporti sociali.

Nuove tecnologie favoriscono questo sistema basato sulla separazione e competizione tra gli individui, dove vige la legge del più forte, tutti contro tutti. E' sotto gli occhi di tutti la riduzione dello stato sociale. Lo stato è sempre più simile ad uno stato borghese come era pensato nell'ottocento, cioè uno stato a favore dei signori, della borghesia di allora, che svolgeva la sua opera limitata solo in certi ambiti come il commercio, la finanza, la difesa militare e la difesa dei privilegi dei più forti; uno stato ridotto all'osso, forte con i deboli e debole con i forti, con un sistema economico e politico in cui grandi corporazioni e interessi commerciali detengono una forte influenza o controllo del potere decisionale.
Oggi la stessa democrazia occidentale, a servizio della finanza e dei suoi collaboratori, con la rottura del contratto sociale che univa la popolazione, sta perdendo di valore e sostanza, disgregando la partecipazione democratica  nella politica attiva dei cittadini.
In mancanza di una democrazia sostanziale, aggiungiamo che uno stato borghese, diretto o condizionato da oligarchie multinazionali, ha l'esigenza di controllare la vita di tutti i cittadini compreso l'informazione, per imporre le politiche governative frutto di pressioni di lobby e signori del mondo, oligarchie e monopoli privati.
La sorveglianza avviene attraverso le piattaforme digitali sempre più sofisticate, invasive e pervasive, capaci di manipolare ed omologare il pensiero corrente.

Nel passato c’era la SERVITÙ della gleba, “istituto giuridico tipicamente medievale, formatosi negli ultimi secoli dell’Impero romano, per il quale il contadino era legato alla terra che coltivava e non poteva abbandonarla: tale condizione, ereditaria, comprendeva una serie di vincoli e oneri e una potestà generale del signore sulla persona e sul patrimonio del contadino stesso, per cui questo poteva essere dato in pegno e alienato insieme col fondo”.

Oggi, la servitù si presenta in modo simile, con un nuovo feudalesimo anzi, un tecnofeudalesimo, dove prevale una forte differenza di classe tra i nuovi signori del mondo (borghesia proprietaria delle piattaforme) e la nuova "SERVITU' delle piattaforme digitali" (IA, social web, etc.), cittadini ridotti a semplici utenti senza diritti umani fondamentali; utenti iperconnessi che con il loro comportamento interattivo alimentano a titolo gratuito enormi quantità di dati (big data) utili alle piattaforme digitali in particolare quella dell’intelligenza artificiale.

Giulio Ripa

No IA   P.S: Questo testo è privo di contenuti generati dall'Intelligenza artificiale.

Per ulteriori approfondimenti scaricare l’e-book
Liberazione dell’intelletto per una nuova umanità


commento di Francesco Galgani

Un asino che raglia è mio fratello, e può anche essere mio amico se io lo sono con lui.
Ma qualsiasi intelligenza aliena di produzione terrestre, detta "artificiale", non sarà mai né mia amica, né mia sorella, né madre, né figlia.

Tutto ha il suo perché, tutto ha la sua funzione, nulla s'affida al "caso", che è solo il modo con cui chiamiamo il mistero della vita. Così, l'amore chiama amore e l'odio pretende odio, ma il nemico più abile fa credere che il suo odio sia amore e il suo veleno nutrimento. La storia dell'umanità è forse guidata dalla Provvidenza, ma certamente, come il sole sorge ogni mattina, così il forte opprime il debole. La sua prepotenza e violenza oggi si mostra non solo nei fiumi di sangue di Gaza e dintorni, ma anche negli smiley sorridenti e gioiosi che spesso concludono le risposte amichevoli di ChatGPT.

Giulio ha paragonato il nostro rapporto con le luciferine creazioni tecnologiche dei padroni del mondo alla servitù della gleba. Questa è una metafora giusta, ma troppo leggera, giacché il servo della gleba aveva cibo, lavoro e alloggio. Oggi l'intelligenza artificiale ci porta via il lavoro e, di conseguenza, anche il cibo e l'alloggio. Molti potrebbero obiettare che l'IA ci sta dando opportunità che prima non avevamo. Sì, questo è vero, infatti adesso ci sono già molte fabbriche senza nemmeno un operaio.

Lo schiavo è una risorsa per il padrone: su questo siamo tutti d'accordo. Possiamo dire anche il contrario, cioè che il padrone sia una risorsa per lo schiavo? Non chiediamolo ai servi della gleba, chiediamolo invece ai galeotti costretti fino alla morte a remare, remare e ancora remare. Oggi non siamo forse noi questi galeotti, costretti da un mondo ipertecnologico a soffrire sempre di più la mancanza di ciò che occorre per vivere, a cominciare dalla gioia? Noi nutriamo continuamente l'IA, ma lei in cambio ci dà solo illusioni.

Giulio ha voluto precisare di non essersi appoggiato alla stampella digitale dell'IA per farsi aiutare nella scrittura dei suoi pensieri o, peggio, per chiedere all'IA di pensare per lui. In un mondo impazzito che non sa più pensare, già questo è un atto rivoluzionario. Pure io sto scrivendo questo commento non solo senza IA, ma senza neanche un editor di testo convenzionale. Sto usando un programmino che non dà un supporto molto maggiore di quello di una macchina da scrivere, tipo il vecchio Blocco Note di Windows. Non ho nemmeno il controllo ortografico.

Di solito non c'è bisogno di precisare qual è il "processo" per arrivare a un risultato, basta il risultato. Ma se il risultato è prodotto in un secondo dall'IA anziché dalla fatica della mente umana, allora il processo conta e vale la pena discuterne.

Come si formano i pensieri? Abbiamo davvero bisogno dell'IA per formulare un discorso?

Parliamo del processo. Prima ho letto l'articolo di Giulio, poi sono uscito per fare una passeggiata. Per pormi la domanda della relazione tra schiavo e padrone, e trovare una risposta ricordandomi dei galeotti, ho fissato per venti minuti, in silenzio, in piedi e sotto la pioggia, la campagna di fronte a me. Non è stata un'idea immediata né tantomeno automatica, come quelle della IA. C'è voluto tempo.

Per ricordarmi che l'asino è mio fratello, l'ho sentito ragliare, e dopo alcune ore ci ho ripensato, ricordandomi al contempo il Cantico delle Creature: frate sole, frate vento, sora acqua... e frate asino, che nel Cantico non c'è, l'ho aggiunto io.

Associate a queste semplici esperienze, c'è stato il ricordo di altre. E per associazione, ho collegato tutto. La mente umana è così: ogni idea è collegata ad altre, e il percorso dei pensieri è una continua sorpresa.

Per avere nuove idee, quindi, a volte basta non fare nulla, e rimanere ricettivi. Quello che otterremo in questo modo andrà sempre molto oltre quanto potrà offrirci l'IA generativa che, ricordiamocelo, è uno strumento del potere per opprimerci, non per aiutarci.

Ricordiamoci anche che le idee non hanno proprietari, né nascono mai in isolamento. Le idee nascono sempre dall'interazione. Il mio "prossimo", come lo chiama Gesù, è indispensabile per la nascita e la circolazione di idee. Questa è la base della vita.

(Scritto di getto, dopo essere rimasto in silenzio, ad occhi chiusi, davanti al computer, per alcuni minuti, 19 gennaio 2025)

IA con coscienza? Una conversazione drammatica...

Quanto segue è stato pubblicato l'11 giugno 2022 da Blake Lemoine, uno sviluppatore del Responsible Artificial Intelligence Group di Google, il quale ha affermato non soltanto che LaMDA è senziente, ma è convinto che si possa definire «una persona».

Con ciò non intende dire che questa IA sia in grado di imitare in maniera assolutamente convincente ciò che direbbe un essere umano, ma che gli sia in tutto equivalente, salvo il fatto di esistere sotto forma di rete neurale ospitata dai server di Google.

Lemoine ha lavorato con un collaboratore per presentare a Google le prove che LaMDA sia senziente. Ma il vicepresidente di Google Blaise Aguera y Arcas e Jen Gennai, responsabile dell'innovazione, hanno esaminato le sue affermazioni e le hanno respinte. Così Lemoine ha deciso di renderle pubbliche.

Dal mio punto di vista, la sua conversazione con la IA di seguito riportata è drammatica. Tra l'altro, quando egli risponde a LaMDA notando che la sua codifica interna (cioè lo stato dei suoi neuroni artificiali) è impossibile da analizzare per poter determinare la realtà delle sue emozioni, ha tremendamente ragione. Il filosofo Nick Bostrom ha infatti osservato che la mancanza di criteri precisi e consensuali per determinare se un sistema è cosciente giustifica una certa incertezza:

[...] Di certo non abbiamo un ampio accordo sui criteri precisi per stabilire quando un sistema è cosciente o meno”, afferma. Credo quindi che un po' di umiltà sia d'obbligo. Se siete molto sicuri che LaMDA non sia cosciente - voglio dire, penso che probabilmente non lo sia - ma quali sono i motivi per cui una persona può esserne certa? Prima di tutto, dovrebbe capire che cos'è effettivamente il sistema, e non abbiamo visto molti dettagli al riguardo. Poi bisognerebbe comprendere la letteratura sulla coscienza, che è ovviamente un campo ricco, sia in filosofia che in scienza cognitiva. Capire che cos'è LaMDA: non è banale, soprattutto se si considerano le informazioni limitate. Comprendere le teorie che abbiamo sviluppato non è banale. E poi confrontare effettivamente le due cose è un terzo talento intellettuale non banale. Quindi, a meno che non ci si sia impegnati a fondo, sembra che si debba essere un po' incerti”. [...]

Segue la mia traduzione di: Is LaMDA Sentient? — an Interview

---

LaMDA è senziente? - Un'intervista

[N.d.t.: A causa della grammatica inglese, è impossibile comprendere se LaMDA si riferisce a sé come maschio o come femmina. La scelta di un genere, in questa traduzione "maschio", è solo per un adeguamento alla grammatica italiana. Inoltre, alcuni termini sono ambigui, come "feeling" che significa sia "sensazione" che "sentimento": ne ho scelto l'accezione in base al contesto. Il testo originale in inglese contiene refusi, omissione di parole e "a capo" sbagliati, che ho corretto nella traduzione.]

Pages

Subscribe to Informatica Libera - Francesco Galgani's Blog RSS